Крис Роуз, директор по управлению в Meta, и ведущий подкаста Тайлер Коуэн обсуждают масштабный эксперимент компании по внедрению принципов делиберативной демократии в разработку ИИ и модерацию контента. В центре дискуссии — работа «Надзорного совета» (Oversight Board) и «Общественных форумов» (Community Forums), призванных передать часть властных полномочий от корпорации в руки рядовых пользователей.
🏛️ Миссия команды по управлению в Meta 7:00
Крис Роуз представляет подразделение управления (Governance), входящее в состав организации по глобальным вопросам Meta. По словам гостя, ключевая задача его команды — изучение того, как распределяется власть между компанией и пользователями, и как принимаются решения, влияющие на миллиарды людей .
История этого направления началась в 2018 году, когда Марк Цукерберг заявил: частные компании не должны единолично принимать решения, имеющие столь колоссальное влияние на свободу слова и общество . Это привело к созданию двух ключевых структур:
- Надзорный совет (Oversight Board): Независимый орган, часто называемый «Верховным судом Facebook», который принимает обязательные для исполнения компанией решения по сложным случаям модерации контента .
- Общественные форумы (Community Forums): Механизм, позволяющий пользователям участвовать в обсуждении принципов работы новых технологий (например, генеративного ИИ) еще на этапе их проектирования .
Тайлер Коуэн отмечает, что работа Криса Роуза уникальна для индустрии, так как она сфокусирована не на государственном регулировании, а на создании внутренних демократических институтов . Крис Роуз подчеркивает, что легитимность таких систем строится на пяти столпах: представительность, независимость, информированность участников, прозрачность процесса и последовательность в принятии решений .
⚖️ Надзорный совет: внешняя подотчетность 10:26
Отношения между Meta и Надзорным советом строятся на принципе полной независимости. По факту, совет имеет собственный штат сотрудников и бюджет, который формируется через безотзывный траст — компания не может забрать эти деньги обратно после их перечисления .
Основные функции совета, согласно описанию Криса Роуза:
- Рассмотрение апелляций: Если пост пользователя удален, он может обратиться в совет для пересмотра решения .
- Обязательные решения: Meta обязана исполнить решение совета по конкретному контенту, если оно не нарушает закон .
- Рекомендации: Совет может давать необязательные советы по изменению общей политики компании, которые Meta обязуется публично рассмотреть .
По мнению Криса Роуза, такая структура создает систему сдержек и противовесов, имитирующую судебную власть в демократическом государстве .
🗣️ Делиберативная демократия и Community Forums 16:19
Вдохновившись концепцией «делиберативной волны» (термин ОЭСР), команда Криса Роуза начала внедрять методы гражданских ассамблей в корпоративную среду . Суть метода заключается в том, что репрезентативная выборка пользователей (мини-публика) собирается для обсуждения сложных политических или этических дилемм.
Крис Роуз выделяет преимущества такого подхода:
- Снижение сенсационности и поляризации при обсуждении острых тем.
- Получение взвешенной обратной связи на основе информированного диалога, а не эмоциональных реакций .
- Поиск консенсуса по вопросам, где нет однозначного «правильного» ответа.
Для реализации этого проекта Meta сотрудничает с Лабораторией делиберативной демократии Стэнфордского университета и командой поведенческих инсайтов (Behavioral Insights Team) из Великобритании . Профессор Джим Фишкин из Стэнфорда, пионер метода делиберативного опроса, предоставил запатентованную платформу для проведения обсуждений в цифровом масштабе .
🤖 Кейс: Принципы работы генеративного ИИ 20:33
В октябре 2023 года Meta провела масштабные Community Forums в США, Германии, Испании и Бразилии, посвященные этике ИИ . Участники обсуждали принципы, которыми должны руководствоваться чат-боты при общении с людьми.
Процесс форума состоял из нескольких этапов:
- Обучение: Участники получали материалы о том, как обучаются модели и какие существуют риски (например, конфиденциальность данных) .
- Обсуждение в малых группах: Пользователи разбивались на группы по 8–10 человек на платформе Стэнфорда .
- Пленарная сессия: Возможность задать вопросы внешним экспертам в прямом эфире .
- Финальный опрос: Сбор мнений после того, как участники ознакомились с аргументами сторон.
Основные результаты, по словам Криса Роуза:
- Оптимизм: Большинство участников настроены позитивно по отношению к ИИ, считая, что он повысит продуктивность и креативность .
- Запрос на контроль: Пользователи готовы использовать технологию, если у них будет понимание, как она работает, и инструменты контроля (прозрачность, согласие на использование данных) .
- Аутентичность: Люди хотят четко знать, взаимодействуют ли они с ботом или человеком, особенно в вопросах эмоциональной привязанности .
- Культурные различия: Респонденты в Бразилии чаще высказывались за то, чтобы ИИ отражал локальные ценности и ресурсы, а не только международные стандарты .
Крис Роуз отмечает любопытный сдвиг: после обучения участники переходят от «сенсационных страхов» (таких как уничтожение человечества) к обсуждению «приземленных рисков» вроде защиты данных и алгоритмической предвзятости .
📉 Критика и ограничения метода 52:35
Тайлер Коуэн поднимает вопрос о «селективном смещении» (selection bias): в таких форумах чаще участвуют люди с большим количеством свободного времени или более высоким доходом, что может искажать результаты . Крис Роуз признает проблему и сообщает, что Meta предпринимает шаги для её минимизации:
- Предоставление ноутбуков и доступа к интернету тем, у кого их нет.
- Выплата стипендий на услуги нянь, чтобы родители могли участвовать в обсуждениях .
- Сотрудничество со сторонними экспертами для обеспечения максимально репрезентативной выборки .
Другой спорный момент касается формата обсуждения. Некоторые теоретики считают, что настоящая демократия требует личного присутствия и считывания языка тела (ссылаясь на работы Элинор Остром) . Однако Крис Роуз утверждает, что цифровой формат позволяет масштабировать процесс на тысячи участников из разных регионов одновременно, что невозможно в офлайне .
🌐 Будущее управления технологиями 49:17
Meta не одинока в своих поисках. Крис Роуз упоминает эксперименты других игроков:
- OpenAI: Программа грантов для публичного обсуждения спецификаций моделей .
- Anthropic: Использование технологии коллективного ответа (Collective Constitutional AI) для формирования этических правил .
По мнению Криса Роуза, индустрия находится в фазе активного экспериментирования. Главный вызов сегодня — сделать так, чтобы обратная связь от пользователей имела реальную силу («зубы»), а не оставалась просто формальностью .
Тайлер Коуэн в завершение отмечает, что легитимность любой политики зависит от того, насколько убедительно организация может обосновать свои решения данными . В условиях, когда технологические гиганты сталкиваются с политическим давлением, создание прозрачных процедур участия общества становится не просто этическим выбором, а вопросом выживания институтов.
