В новом выпуске подкаста Ленни Рачитского руководители X раскрывают внутреннюю кухню Community Notes — системы, которая изменила подход к борьбе с дезинформацией в интернете. Кейт Колман и Джей Бакстер объясняют, как небольшой команде удалось создать алгоритм «моста», заставляющий идеологических оппонентов соглашаться друг с другом, и почему проект не только выжил при Илоне Маске, но и стал индустриальным стандартом, который теперь копирует Meta.
🛠️ Что такое Community Notes и как работает «алгоритм согласия» 6:05
Community Notes — это инструмент, позволяющий пользователям X добавлять контекст к потенциально вводящим в заблуждение постам . В отличие от традиционных систем модерации, здесь нет централизованного совета цензоров. Процесс строится на участии обычных людей: один пользователь предлагает заметку, а другие её оценивают .
Ключевая инновация заключается в алгоритме, который Кейт Колман и Джей Бакстер называют «bridging-based agreement» (согласие, наводящее мосты) . Система не просто подсчитывает большинство голосов, а ищет одобрение от людей, которые в прошлом часто не соглашались друг с другом .
Основные технические принципы алгоритма:
- Матричная факторизация: Использование машинного обучения для выявления скрытых факторов, определяющих предпочтения пользователей .
- Градиентный спуск: Метод оптимизации, применяемый для настройки модели .
- Порог полезности: Заметка публикуется только если она набирает 0.4 балла по внутренней шкале полезности .
- Репутационная фильтрация: Если пользователь постоянно оценивает плохие заметки как «полезные», алгоритм со временем перестает учитывать его голос .
По словам Джея Бакстера, такой подход делает заметки нейтральными и точными, так как радикально настроенные группы не могут «захватить» рейтинг . Кейт Колман утверждает, что цель системы — не истина в последней инстанции, а предоставление контекста, чтобы пользователи могли сами принимать решения .
📊 Масштаб и влияние: цифры против фейков 13:42
Community Notes демонстрирует экспоненциальный рост. В 2024 году показатели проекта значительно превысили результаты предыдущих лет:
- Охват: За 2024 год было опубликовано около 95 000 заметок, которые набрали 30 млрд просмотров .
- Динамика: В 2023 году было 37 000 заметок и 14 млрд просмотров .
- Аудитория: В системе зарегистрировано около 950 000 волонтеров-контрибьюторов со всего мира .
- Эффективность: Только 8% от всех предложенных заметок проходят жесткий фильтр алгоритма и становятся видимыми для всех .
Влияние заметок на поведение пользователей оказалось радикальным. Согласно результатам A/B-тестирования, после появления заметки под постом:
- Количество лайков и репостов падает на 30–40% .
- Общее распространение поста (виральность) снижается на 50–60% .
- Авторы в 80% случаев удаляют свои посты после того, как к ним добавляется разоблачающий контекст .
Кейт Колман приводит пример с твитом Белого дома, который был удален и переписан после того, как волонтер Community Notes указал на фактическую ошибку . По мнению гостя, это доказывает, что обычный человек с 12 подписчиками может влиять на мировую повестку, если его информация точна .
🚀 История создания: от корпоративной бюрократии к стартапу внутри X 30:11
Кейт Колман присоединился к Twitter в 2016 году, когда компания находилась в кризисе: около трети сотрудников увольнялись ежегодно, а акции падали . Проработав три года вице-президентом по продукту и управляя огромной командой PM-ов, Колман почувствовал выгорание от «корпоративной чепухи» и бесконечных OKR .
Он предложил руководству (тогда Кейвону Бейкпуру) оставить свою высокую должность и в одиночку заняться проблемой дезинформации . Так зародился проект Birdwatch, позже переименованный в Community Notes.
Смена названия произошла сразу после покупки компании Илоном Маском. По словам Колмана, Маск в первый же день в личных сообщениях назвал продукт «этой штукой Community Notes» . Выяснилось, что именно так назывался самый первый макет в Figma, созданный Колманом, но позже замененный на Birdwatch маркетинговым отделом . По требованию Маска название сменили за один день .
🏗️ Проект «Thermal»: секреты работы малых команд 40:39
Для защиты проекта от бюрократии была создана структура под названием Thermal. Это «изолированный» формат команды, который Кейт Колман считает ключевым фактором успеха .
Основные правила Thermal-команды:
- Один лидер-основатель с прямым доступом к главному лицу, принимающему решения (сейчас это Илон Маск) .
- 100% фокус: Никто в команде не размывает внимание на другие задачи компании .
- Минимальный состав: Команда начиналась с пяти человек — по одному специалисту на функцию (ML, бэкенд, фронтенд, дизайн, исследования) .
- Отсутствие тяжелых инструментов: Команда не использует Jira (кроме взаимодействия с другими отделами) или Asana, предпочитая один длинный Google Doc для координации .
Джей Бакстер отмечает, что работа в сверхмалой команде заставляет инженеров удалять старый код чаще, чем писать новый, чтобы снизить затраты на поддержку . Кейт Колман утверждает, что малые группы под руководством Маска способны за две недели делать то, что раньше занимало год (как это было с масштабированием сервиса Spaces до миллиона слушателей) .
⚖️ Принципы и независимость: отсутствие «кнопки удаления» 1:11:02
Самым радикальным принципом Community Notes Кейт Колман называет то, что это «голос народа», а не голос корпорации .
- Отсутствие контроля: У руководства компании нет кнопки, позволяющей вручную изменить статус заметки или удалить её, если она прошла через алгоритм .
- Открытый исходный код: Весь код алгоритма опубликован на GitHub, а данные о рейтингах доступны для скачивания ежедневно . Любой желающий, например Виталик Бутерин, может проверить точность работы системы на своем компьютере .
- Радикальная прозрачность: Колман считает, что доверие невозможно, если процесс принятия решений остается «черным ящиком» .
Гости подчеркивают, что эти принципы помогли проекту выжить при смене четырех лидеров: Джека Дорси, Парага Агравала, Илона Маска и Линды Яккарино . Продукт доказал свою полезность на практике, особенно во время крупных кризисов, таких как конфликт Израиля и ХАМАС в октябре 2023 года . В те дни медианное время появления заметки составляло всего 5 часов, в то время как традиционный фактчекинг занимает 2–4 дня .
👤 Анонимность и «спор о Месси и Роналду» 1:26:26
Одной из неожиданных находок стала необходимость анонимности контрибьюторов. Первоначально предполагалось, что люди должны писать под своими именами, но тесты показали обратное .
По словам Кейта Колмана:
- Анонимность защищает людей от травли при обсуждении острых тем .
- Анонимные пользователи гораздо охотнее «пересекают партийные границы» и соглашаются с оппонентами, так как им не нужно поддерживать публичный имидж своей группы .
Джей Бакстер добавляет, что Community Notes используется не только для политики. Одной из самых поляризованных тем на платформе оказался спор о том, кто лучше: Лионель Месси или Криштиану Роналду . Алгоритму даже пришлось моделировать эту тему отдельно, чтобы справляться с фанатскими войнами .
🔮 Будущее: ИИ и Supernotes 1:38:44
Команда X активно исследует возможности больших языковых моделей (LLM) для развития продукта. Проект Supernotes, созданный внешними исследователями на основе открытых данных X, предлагает использовать ИИ для генерации вариантов заметок и симуляции «жюри» волонтеров, чтобы предсказать, какие формулировки будут признаны наиболее полезными и нейтральными .
Кейт Колман подытоживает, что успех Community Notes дает повод для оптимизма: в мире, который кажется расколотым, существует как минимум 80% вещей, по которым люди разных взглядов могут прийти к согласию, если им дать правильный инструмент .
