# Как делиберативная демократия меняет ИИ: опыт Community Forums и Криса Роуза Источник: https://www.youtube.com/watch?v=z2QjCvcukHo Канал: Conversations with Tyler Опубликовано: 29.01.2025 --- Крис Роуз, директор по управлению в Meta, и ведущий подкаста Тайлер Коуэн обсуждают масштабный эксперимент компании по внедрению принципов делиберативной демократии в разработку ИИ и модерацию контента. В центре дискуссии — работа «Надзорного совета» (Oversight Board) и «Общественных форумов» (Community Forums), призванных передать часть властных полномочий от корпорации в руки рядовых пользователей. ## 🏛️ Миссия команды по управлению в Meta [[JUMP:07:00]] Крис Роуз представляет подразделение управления (Governance), входящее в состав организации по глобальным вопросам Meta. По словам гостя, ключевая задача его команды — изучение того, как распределяется власть между компанией и пользователями, и как принимаются решения, влияющие на миллиарды людей [07:12]. История этого направления началась в 2018 году, когда Марк Цукерберг заявил: частные компании не должны единолично принимать решения, имеющие столь колоссальное влияние на свободу слова и общество [08:03]. Это привело к созданию двух ключевых структур: * **Надзорный совет (Oversight Board):** Независимый орган, часто называемый «Верховным судом Facebook», который принимает обязательные для исполнения компанией решения по сложным случаям модерации контента [09:33]. * **Общественные форумы (Community Forums):** Механизм, позволяющий пользователям участвовать в обсуждении принципов работы новых технологий (например, генеративного ИИ) еще на этапе их проектирования [15:40]. Тайлер Коуэн отмечает, что работа Криса Роуза уникальна для индустрии, так как она сфокусирована не на государственном регулировании, а на создании внутренних демократических институтов [06:04]. Крис Роуз подчеркивает, что легитимность таких систем строится на пяти столпах: представительность, независимость, информированность участников, прозрачность процесса и последовательность в принятии решений [13:16]. ## ⚖️ Надзорный совет: внешняя подотчетность [[JUMP:10:26]] Отношения между Meta и Надзорным советом строятся на принципе полной независимости. По факту, совет имеет собственный штат сотрудников и бюджет, который формируется через безотзывный траст — компания не может забрать эти деньги обратно после их перечисления [11:04]. Основные функции совета, согласно описанию Криса Роуза: 1. **Рассмотрение апелляций:** Если пост пользователя удален, он может обратиться в совет для пересмотра решения [11:45]. 2. **Обязательные решения:** Meta обязана исполнить решение совета по конкретному контенту, если оно не нарушает закон [12:12]. 3. **Рекомендации:** Совет может давать необязательные советы по изменению общей политики компании, которые Meta обязуется публично рассмотреть [12:37]. По мнению Криса Роуза, такая структура создает систему сдержек и противовесов, имитирующую судебную власть в демократическом государстве [11:58]. ## 🗣️ Делиберативная демократия и Community Forums [[JUMP:16:19]] Вдохновившись концепцией «делиберативной волны» (термин ОЭСР), команда Криса Роуза начала внедрять методы гражданских ассамблей в корпоративную среду [16:33]. Суть метода заключается в том, что репрезентативная выборка пользователей (мини-публика) собирается для обсуждения сложных политических или этических дилемм. Крис Роуз выделяет преимущества такого подхода: * Снижение сенсационности и поляризации при обсуждении острых тем. * Получение взвешенной обратной связи на основе информированного диалога, а не эмоциональных реакций [17:42]. * Поиск консенсуса по вопросам, где нет однозначного «правильного» ответа. Для реализации этого проекта Meta сотрудничает с Лабораторией делиберативной демократии Стэнфордского университета и командой поведенческих инсайтов (Behavioral Insights Team) из Великобритании [14:49]. Профессор Джим Фишкин из Стэнфорда, пионер метода делиберативного опроса, предоставил запатентованную платформу для проведения обсуждений в цифровом масштабе [19:13]. ## 🤖 Кейс: Принципы работы генеративного ИИ [[JUMP:20:33]] В октябре 2023 года Meta провела масштабные Community Forums в США, Германии, Испании и Бразилии, посвященные этике ИИ [20:46]. Участники обсуждали принципы, которыми должны руководствоваться чат-боты при общении с людьми. **Процесс форума состоял из нескольких этапов:** 1. **Обучение:** Участники получали материалы о том, как обучаются модели и какие существуют риски (например, конфиденциальность данных) [21:28]. 2. **Обсуждение в малых группах:** Пользователи разбивались на группы по 8–10 человек на платформе Стэнфорда [23:42]. 3. **Пленарная сессия:** Возможность задать вопросы внешним экспертам в прямом эфире [24:08]. 4. **Финальный опрос:** Сбор мнений после того, как участники ознакомились с аргументами сторон. **Основные результаты, по словам Криса Роуза:** * **Оптимизм:** Большинство участников настроены позитивно по отношению к ИИ, считая, что он повысит продуктивность и креативность [37:50]. * **Запрос на контроль:** Пользователи готовы использовать технологию, если у них будет понимание, как она работает, и инструменты контроля (прозрачность, согласие на использование данных) [38:18]. * **Аутентичность:** Люди хотят четко знать, взаимодействуют ли они с ботом или человеком, особенно в вопросах эмоциональной привязанности [43:56]. * **Культурные различия:** Респонденты в Бразилии чаще высказывались за то, чтобы ИИ отражал локальные ценности и ресурсы, а не только международные стандарты [46:26]. Крис Роуз отмечает любопытный сдвиг: после обучения участники переходят от «сенсационных страхов» (таких как уничтожение человечества) к обсуждению «приземленных рисков» вроде защиты данных и алгоритмической предвзятости [37:24]. ## 📉 Критика и ограничения метода [[JUMP:52:35]] Тайлер Коуэн поднимает вопрос о «селективном смещении» (selection bias): в таких форумах чаще участвуют люди с большим количеством свободного времени или более высоким доходом, что может искажать результаты [54:07]. Крис Роуз признает проблему и сообщает, что Meta предпринимает шаги для её минимизации: * Предоставление ноутбуков и доступа к интернету тем, у кого их нет. * Выплата стипендий на услуги нянь, чтобы родители могли участвовать в обсуждениях [55:14]. * Сотрудничество со сторонними экспертами для обеспечения максимально репрезентативной выборки [55:27]. Другой спорный момент касается формата обсуждения. Некоторые теоретики считают, что настоящая демократия требует личного присутствия и считывания языка тела (ссылаясь на работы Элинор Остром) [59:16]. Однако Крис Роуз утверждает, что цифровой формат позволяет масштабировать процесс на тысячи участников из разных регионов одновременно, что невозможно в офлайне [19:42]. ## 🌐 Будущее управления технологиями [[JUMP:49:17]] Meta не одинока в своих поисках. Крис Роуз упоминает эксперименты других игроков: * **OpenAI:** Программа грантов для публичного обсуждения спецификаций моделей [50:10]. * **Anthropic:** Использование технологии коллективного ответа (Collective Constitutional AI) для формирования этических правил [50:23]. По мнению Криса Роуза, индустрия находится в фазе активного экспериментирования. Главный вызов сегодня — сделать так, чтобы обратная связь от пользователей имела реальную силу («зубы»), а не оставалась просто формальностью [1:06:46]. Тайлер Коуэн в завершение отмечает, что легитимность любой политики зависит от того, насколько убедительно организация может обосновать свои решения данными [1:08:13]. В условиях, когда технологические гиганты сталкиваются с политическим давлением, создание прозрачных процедур участия общества становится не просто этическим выбором, а вопросом выживания институтов.