«Десятки миллионов людей погибнут, если социальные сети не будут полностью перестроены», — предупреждает бывший менеджер Facebook Фрэнсис Хауген. Абсолютная власть Марка Цукерберга и погоня за долями процента прибыли превратили ИТ-гиганта в закрытую автократию, сознательно игнорирующую риски радикализации общества и разжигания насилия по всему миру. Этот инсайдерский разбор раскрывает скрытые механизмы работы непрозрачных алгоритмов и объясняет, почему спасение нашего цифрового будущего требует системной прозрачности, а не цензуры.
🛡️ Путь информатора: изнутри Facebook 0:59
Фрэнсис Хауген (Frances Haugen) пришла в Facebook в 2019 году, движимая не карьерными амбициями, а глубоким личным опытом. За несколько лет до этого её близкий друг стал жертвой конспирологического мышления: человек с высшим образованием и эмпатией оказался изолирован от реальности, поглощенный темными уголками интернета [01:26–02:33]. Наблюдая за этим болезненным процессом, Хауген приняла решение: если Facebook — это машина, которая не исчезнет, то лучший способ помочь — попытаться изменить её изнутри, работая над проблемой дезинформации [03:01–03:17]. Несмотря на то, что она понимала сложность системы и наличие критики в адрес компании, Фрэнсис рассматривала эту работу как «службу долга», способ приложить свои навыки там, где это критически необходимо [03:42–04:51]. Однако, оказавшись внутри, она быстро осознала, что реальность компании оказалась значительно хуже, чем она предполагала.
🚩 Корпоративная культура и системные сбои 5:19
С первых же дней в компании Хауген столкнулась с организационным хаосом, который заставил её усомниться в безопасности производимых продуктов. Несмотря на наличие MBA из Гарварда и опыт работы в крупных технологических структурах, обстановка в Facebook напомнила ей не о продуктивной среде, а о сериале «Кремниевая долина» — с той лишь разницей, что в реальности это не было комедией [05:31–05:57].
Первым серьезным сигналом стал процесс обучения. Вместо полноценного погружения в специфику платформы, команду Хауген практически сразу бросили «в бой» без должного опыта в вопросах безопасности [06:11–07:17]. Команда состояла из сотрудников, которые ранее никогда не работали в этой нише: фронтенд-разработчики занимались архитектурой безопасности, а новые менеджеры были вынуждены за пять дней готовить планы, от которых зависела работа всего подразделения [07:31–07:44]. Этот организационный дефицит компетенций, по словам Фрэнсис, был первым серьезным «красным флагом».
🌍 Facebook как «интернет» для развивающихся стран 7:56
Важной темой, которую Фрэнсис Хауген выделяет как источник глобальной уязвимости, является восприятие платформы пользователями вне западного мира. В США интернет развивался постепенно, формируя навыки критического мышления и интернет-грамотности на протяжении десятилетий [08:09–08:22]. В развивающихся странах Facebook зачастую является единственным входом в сеть, и пользователи, включая высокообразованных людей, склонны доверять контенту на платформе просто потому, что он пришел от «друга» [09:28–10:21].
Компания не учитывала этот культурный контекст, пытаясь измерить успех через «выражения сомнения» в комментариях, в то время как люди в Индии или других регионах даже не допускали мысли, что кто-то может намеренно распространять ложь [09:13–09:42]. Кроме того, фокус на контент-модерации, а не на системных решениях (например, ограничении цепочек пересылки сообщений), приводит к тому, что страны с огромным лингвистическим разнообразием, такие как Эфиопия, остаются без защиты [11:14–12:19].
⚖️ Миф о свободе слова против безопасности 12:32
Рич Ролл (Rich Roll) и Фрэнсис Хауген обсудили, как Facebook мастерски манипулирует дискуссией, противопоставляя «свободу слова» «безопасности» [12:32–12:47]. По мнению Хауген, эта дихотомия — ложная. Когда алгоритмы отдают предпочтение экстремальному, вызывающему ярость контенту ради удержания внимания (и, как следствие, прибыли), это не является защитой свободы слова — это бизнес-выбор в пользу продвижения вредоносного контента [13:37–13:50].
Ранее в разговоре они касались вопросов прозрачности и вмешательства в работу алгоритмов.
Хауген подчеркивает: текущая модель, основанная на максимизации вовлеченности, делает невыгодным внедрение мер безопасности, которые могли бы снизить распространение дезинформации на 30% [14:16–14:41]. Фрэнсис настаивает, что вместо абстрактных споров о «цифровой площади», обществу необходима прозрачность данных, чтобы оценить реальное влияние платформы на жизнь людей, а не довольствоваться маркетинговыми заявлениями компании [14:54–16:11].
👁️ Иллюзия прозрачности и корпоративный «контроль над правдой» 25:25
Внутри Facebook вопросы безопасности и прозрачности алгоритмов долгое время оставались заложниками бизнес-модели, где любая реальная забота о благополучии пользователей измерялась исключительно через призму потери прибыли. Фрэнсис Хауген (Frances Haugen) отмечает, что компания систематически скрывала принципы работы своих «цензурных» систем и реальную эффективность вмешательств, преподнося общественности лишь те улучшения, которые служили маркетинговыми инструментами.
Финансовая анатомия манипуляций 25:51
Экономика Facebook строится на агрессивной монетизации внимания. В США и Канаде один пользователь приносит платформе около 55 долларов в квартал, в то время как в Европе этот показатель составляет 14,50 долларов, а в странах Азии — всего 4,50 доллара. Этот разрыв в доходах создает опасную динамику: для многих развивающихся стран Facebook фактически стал самим интернетом, однако компания не инвестирует в безопасность этих регионов пропорционально их значимости для своей бизнес-модели.
Хауген подчеркивает когнитивный диссонанс пользователей: хотя многие заявляют, что не готовы платить за социальные сети, эксперименты Facebook по «подкупу» людей за отказ от сервиса доказывают, что пользователи ценят платформу гораздо выше, чем стоимость подписки. В отличие от модели Netflix, где алгоритмы стремятся удовлетворить интерес пользователя, не прибегая к хищническим методам удержания, Facebook напрямую конкурирует со сном, стремясь максимизировать время, проводимое человеком в сети, любой ценой. Инвесторы при этом оказывают давление, требуя отказа от подписных моделей в пользу рекламных, так как последние позволяют бесконечно наращивать ценность компании за счет накопления данных и точности таргетинга.
Разрушение систем безопасности 32:13
Одним из ключевых свидетельств подмены реальной безопасности маркетинговым фасадом стало расформирование команды Civic Integrity (Гражданская целостность) сразу после выборов в США в 2020 году. Эта команда должна была выступать «авангардом» изменений, однако, как только исследования сотрудников начали превращать аморфные проблемы в конкретные задокументированные риски, руководство посчитало их обузой.
Хауген указывает, что предложенные экспертами решения часто блокировались из-за боязни снижения маржинальности. Несмотря на то что Facebook оперирует огромной маржой в 35%, даже минимальное снижение прибыли ради спасения жизней в регионах, где платформа играет критическую социальную роль, воспринималось как неприемлемое. Вместо исправления ошибок компания предпочла занять позицию «неведения», игнорируя внутренние отчеты о реальном вреде своих алгоритмов.
Концентрация власти и крах «сдержек и противовесов» 38:27
Проблема непрозрачности алгоритмов неразрывно связана с архитектурой управления компанией. Марк Цукерберг контролирует около 55% голосующих акций, что дает ему фактически неограниченную власть над корпорацией. Как отмечает Хауген, любые попытки внутреннего контроля — будь то запросы на аудит безопасности или требования реформирования классов акций — разбиваются об это единоличное управление.
Случай с реакцией на высказывания президента Индии в 2019 году ярко иллюстрирует этот «авторитарный» подход к политике. Несмотря на то что целевая группа из 30 экспертов месяцами работала над вопросом противодействия разжиганию ненависти, Цукерберг единолично отменил их наработки, написав собственную политику за выходные. При этом он не проконсультировался с профильными командами, не зная даже того, как Facebook определяет «политиков» на своей платформе. Этот случай стал одним из многих, подтверждающих, что в отсутствие реальных сдержек и противовесов — подобных тем, что были внедрены в Microsoft после ухода Билла Гейтса с поста председателя правления — компания остается закрытой системой, где голос здравого смысла заглушается интересами единоличного лидера.
📉 Алгоритмы раздора: почему Facebook не способен измениться изнутри 52:07
Кризис и распад команды Civic Integrity 57:28
Рассматривая внутреннее устройство технологического гиганта, Фрэнсис Хауген (Frances Haugen) подчеркивает, что корень проблемы лежит глубоко в корпоративной культуре и специфике распределения ролей. Сама Фрэнсис работала продукт-менеджером — специалистом, который не пишет код напрямую, а направляет усилия других людей и помогает им реализовать свой потенциал. Однако в Кремниевой долине сложилась система искаженных стимулов, которая делает внутреннее реформирование практически невозможным.
Ранее в разговоре собеседники уже упоминали кризис и распад команды Civic Integrity (команды по гражданской ответственности), роспуск которой после выборов 2020 года стал для Хауген точкой невозврата. Этот шаг руководства наглядно продемонстрировал, что у компании нет долгосрочного интереса к безопасности, когда на кону стоит прибыль. Причина такой слепоты закладывается еще на этапе высшего образования. Студенты, получающие дипломы в области компьютерных наук (CS), сталкиваются с жесткими требованиями к учебной программе и практически не имеют возможности изучать гуманитарные дисциплины или этику. Более того, подготовка к техническим собеседованиям в таких компаниях, как Google или Facebook, требует от кандидатов удваивать усилия именно в программировании, игнорируя более широкий социальный контекст. В результате молодые специалисты получают «божественные силы» влияния на общество, но совершенно не понимают этических и долгосрочных последствий применения создаваемых ими технологий. Продуктовые команды и внутренние органы надзора оказываются укомплектованы людьми, неспособными оценить масштаб катастрофы, а редкие попытки команд вроде Civic Integrity исправить ситуацию натыкаются на сопротивление системы, ориентированной исключительно на квартальные отчеты.
Неограниченная власть Марка Цукерберга 1:00:48
Отсутствие внутренних механизмов сдерживания напрямую связано со структурой управления компанией. Как отмечалось ранее в дискуссии, уникальная структура владения акциями Facebook дает Марку Цукербергу единоличный и абсолютный контроль над всеми ключевыми решениями. Это делает традиционный корпоративный надзор со стороны совета директоров или инвесторов фикцией.
Когда Марк Цукерберг выступал перед Сенатом, контраст между его допросом и последующими слушаниями с участием Хауген был поразительным. Прошлые выступления главы Facebook обнажили катастрофическую некомпетентность регуляторов, чьи вопросы вроде «как ваша платформа зарабатывает деньги?» стали интернет-мемами. Однако к моменту появления Хауген уровень осведомленности законодателей вырос, хотя бюрократическая система все еще безнадежно отстает от темпов технологического прогресса.
Фрэнсис убеждена, что уповать на то, будто изменения придут сверху из Вашингтона, бессмысленно. Ссылаясь на слова сенатора Кори Букера, она напоминает: «Изменения не приходят из Вашингтона, они приходят в Вашингтон». Законы и регуляторные акты не возникают в вакууме — они принимаются лишь тогда, когда общество формулирует новые социальные нормы и стандарты, определяющие, что допустимо, а что нет. В условиях, когда Цукерберг обладает неограниченной властью внутри своей корпорации, единственным способом принудить платформу к изменениям становится масштабное внешнее давление гражданского общества и создание новых стандартов подотчетности.
Масштаб ответственности и алгоритмическое насилие 52:07
Наиболее разрушительным проявлением бесконтрольности платформы стало ее влияние на глобальную безопасность. Поворотной точкой стал 2018 год, когда Facebook изменил настройки своего алгоритма: вместо максимизации времени, проводимого пользователями на сайте, система стала приоритезировать количество реакций и взаимодействий. Руководство полагало, что это подстегнет людей чаще создавать контент, но последствия оказались катастрофическими. Уже через шесть месяцев политические партии по всей Европе заявили, что алгоритм буквально вынуждает их публиковать радикальный и экстремистский контент, который не нравится их же избирателям, поскольку только такие публикации получают охваты со стороны платформы.
Ранее в разговоре Рич Ролл и Фрэнсис уже касались темы влияния Instagram на психику подростков, однако Хауген отмечает, что эти откровения, ставшие аналогом «табачного момента» для ИТ-индустрии, — лишь вершина айсберга. В интервью «Sunday Times» Фрэнсис сделала пугающее заявление: если социальные сети не будут радикально перестроены, погибнут десятки миллионов людей.
Этот масштаб ответственности становится очевидным, если посмотреть на развивающиеся страны. В конце 2000-х и начале 2010-х годов Facebook агрессивно захватывал рынки Азии и Африки. Чтобы уничтожить конкурентов, компания пошла на беспрецедентный шаг: она дотировала мобильный трафик для своего приложения. Для сотен миллионов людей в уязвимых регионах планеты Facebook фактически стал синонимом интернета. Корпорация внедрила свои рекомендательные алгоритмы в странах, где у нее не было ни систем безопасности, ни модераторов, владеющих местными языками. Поскольку алгоритмы по своей природе продвигают более агрессивный контент, платформа превратилась в эффективный инструмент разжигания этнической розни. Facebook напрямую способствовал насилию в Мьянме, Эфиопии и Шри-Ланке. Эта же механика радикализации и создания алгоритмических эхо-камер, как отмечалось ранее в подкасте, напрямую привела к штурму Капитолия США 6 января.
Фрэнсис Хауген подчеркивает, что у индустрии есть конкретные инструменты для исправления ситуации, если изменить саму архитектуру продукта:
- Возврат к хронологической ленте (как в 2010 году), что автоматически лишит ультрарадикальные мега-группы возможности доминировать в инфополе.
- Разделение контента на два пула — материалы от друзей и страниц, на которые пользователь подписался добровольно, и алгоритмические рекомендации, навязываемые платформой без явного согласия.
Хотя подробный разбор инициатив созданной Хауген некоммерческой организации «Beyond the Screen» относится к содержанию других глав, очевидно одно: без изменения фундаментальных принципов работы алгоритмов остановить волну глобального насилия будет невозможно.
⚖️ Прозрачность систем и цена инноваций 1:15:32
Текущая экономическая модель технологических гигантов фундаментально деформирована. Как отмечает Фрэнсис Хауген, стимулы внутри компаний, таких как Facebook, работают против интересов пользователей: алгоритмы, настроенные на максимальное вовлечение ради роста рекламных доходов, неизбежно приоритизируют контент, вызывающий сильные эмоции — часто это дезинформация, насилие или ненависть. Когда компания пытается ограничить подобный контент, она сталкивается с падением показателей вовлеченности и, как следствие, снижением выручки.
Хауген подчеркивает, что мы перешли к эпохе «непрозрачных систем». Если 50–100 лет назад потребитель мог купить продукт, разобрать его и протестировать на безопасность (например, измерить уровень свинца или загрязнения воздуха), то современные технологии скрывают свои последствия «за занавесом» дата-центров.
Для исправления ситуации необходимо принятие законов, требующих базового уровня прозрачности данных. Это не требует раскрытия коммерческих тайн, но подразумевает доступ к агрегированной информации:
- Сколько несовершеннолетних подвергаются чрезмерному воздействию контента, пропагандирующего селфхарм.
- Данные о поведении алгоритмов, которые позволят обществу и регуляторам принимать обоснованные решения.
Пример автомобильной индустрии середины 60-х годов, когда давление общественности, страховых компаний и юристов заставило производителей начать снижать уровень смертности на дорогах, служит для Хауген моделью того, как экосистема может принудить к ответственности даже самые закрытые структуры.
📂 Документы Facebook: зачем и как они были собраны 1:19:53
Сбор 22 000 страниц внутренних документов Facebook, инициированный Хауген, был глубоко продуманным анализом рисков, а не спонтанным актом. Хауген поясняет, что она стремилась предоставить объективные, верифицируемые данные для истории и регулирующих органов, чтобы избежать обвинений в субъективности.
Ключевым элементом архива стали не только сами документы, но и комментарии к ним, оставленные сотрудниками Facebook в режиме реального времени. Эти внутренние обсуждения доказывают: сотрудники компании осознавали серьезность проблем, видели последствия алгоритмических искажений, террористический контент или работу картелей, но система подавляла попытки внести изменения. Ранее в беседе обсуждались вопросы корпоративной культуры, и эти документы стали прямым подтверждением того, что многие «красные флаги» были очевидны специалистам внутри компании, но игнорировались руководством.
🧠 Мифы и реальность: влияние на подростков 1:18:46
Вопрос ментального здоровья подростков в Instagram стал центральным в публичной дискуссии о вреде социальных сетей. Хауген объясняет, почему именно эта тема вызвала столь мощный общественный резонанс: в отличие от абстрактных алгоритмов или метаданных, влияние соцсетей на детей — это проблема, понятная обществу на глубоком, эмоциональном уровне.
Когда информация о том, как платформы могут усугублять психологические проблемы подростков, стала достоянием общественности, это дало родителям возможность организоваться и требовать изменений. Базовая прозрачность здесь критически важна: без конкретных данных о том, как именно продукты воздействуют на уязвимые группы, семьи и рекламодатели лишены возможности делать информированный выбор. Проблема подросткового ментального здоровья в этом контексте — это не просто «миф» о вреде интернета, а задокументированный побочный эффект погони за удержанием внимания аудитории.
👁️ Системная прозрачность и сила каждого: как вернуть контроль над цифровой реальностью 1:40:43
От «черных ящиков» к системной прозрачности платформ 1:46:52
Современная информационная среда столкнулась с беспрецедентным кризисом доверия. Хотя стремительный рост генеративного ИИ, дипфэйков и фабрик троллей нового поколения усложняет ситуацию — подробнее эта тема будет разобрана в заключительной главе — уже сейчас очевидно, что традиционная модерация контента зашла в тупик. По мнению Фрэнсис Хауген, попытки платформ играть в цензуру и единолично устанавливать, что является правдой, а что ложью, неэффективны. Вместо этого необходимо сместить фокус на внутреннюю архитектуру систем и аутентичность взаимодействий. Рич Ролл предлагает концепцию «матрицы доверия» (matrix of credibility), которая способна подтвердить, что аккаунт принадлежит реальному человеку с историей подлинных взаимоотношений, а не автоматизированной сети.
Однако сегодня у технологических гигантов нет никаких экономических стимулов заниматься подобными реформами самостоятельно. Ситуацию способно изменить только жесткое внешнее регулирование. Главным прецедентом здесь выступает европейский Закон о цифровых услугах (Digital Services Act), принятый в прошлом году.
Европейский закон возлагает на платформы четкие обязательства:
- Публично раскрывать системные риски своих продуктов перед регуляторами.
- Предоставлять детальные планы по снижению этих рисков.
- Обеспечивать независимых экспертов достаточным объемом агрегированных данных для мониторинга прогресса.
За неисполнение этих требований предусмотрены беспрецедентные санкции — штрафы в размере до 10% от глобального дохода компании, что превращает безопасность из абстрактной ценности в реальный бизнес-фактор. Без аналогичных законов о прозрачности демократическое общество не сможет выжить, оставаясь в заложниках у частных корпораций, действующих в полной темноте.
Законодательные стимулы и право на безопасный интерфейс 1:49:32
В Соединенных Штатах перспективы принятия подобных законов долгое время оставались туманными, однако ситуация сдвинулась с мертвой точки после официального предупреждения Генерального хирурга США (Surgeon General advisory). Исторически, с 1960-х годов было выпущено менее 15 таких документов — включая предупреждения о вреде курения и пользе ремней безопасности. Тот факт, что социальные медиа удостоились такого статуса, свидетельствует о достижении критической точки. Как отмечалось в предыдущей главе, масштаб негативного влияния платформ на ментальное здоровье признан на государственном уровне. По словам президента США на выступлении «О положении страны», над детьми фактически проводится масштабный национальный эксперимент.
Решение этой проблемы лежит не в плоскости ограничения свободы слова, а в изменении дизайна интерфейсов на основе открытых данных. Фрэнсис Хауген предлагает обязать компании публиковать простую статистику: сколько несовершеннолетних пользователей находится внутри приложений в 11 вечера, в полночь или в три часа ночи. Вместо тотальных запретов платформы могут внедрить инструмент «мягкой посадки» (soft landing) — незаметное и постепенное замедление работы приложения ближе к назначенному времени сна, что помогает снизить уровень ночного дофаминового «думскроллинга».
Еще одна необходимая реформа — законодательное закрепление права пользователя на полный сброс алгоритма рекомендаций. В настоящее время подростки, восстанавливающиеся от ментальных расстройств или расстройств пищевого поведения, сталкиваются с трагической дилеммой: они вынуждены либо полностью удалять аккаунты, теряя социальные связи, либо ежедневно возвращаться в среду, которая продолжает подсовывать им деструктивный контент.
«Сила бессильных»: возвращение гражданской субъектности 1:55:50
Название книги Фрэнсис Хауген — «Сила одного» (The Power of One) — это не манифест об исключительности информанта, а призыв к действию для каждого человека. Главное препятствие на пути к переменам — это выученная беспомощность граждан перед лицом триллионных корпораций. Чтобы преодолеть этот паралич, Фрэнсис Хауген обращается к наследию чешского диссидента Вацлава Гавела и его фундаментальному труду «Сила бессильных».
Гавел описывал посттоталитарную систему, которая удерживает власть не столько прямым насилием, сколько всеобъемлющей идеологией. В такой системе одиночный протест кажется бессмысленным, так как структура мгновенно «затягивается» и изолирует инакомыслящего. Единственным источником подлинных изменений Гавел считал возвращение к человеческому достоинству и отказ от соучастия во лжи. Перенося эту философию в цифровую эпоху, пользователи должны осознать свою автономию и прямо заявить, что текущие алгоритмические модели не уважают их достоинство. Массовое осознание того, что правила игры можно изменить, является базовым условием для формирования экосистемы общественной подотчетности.
Новые цифровые ритуалы и разрушение эхо-камер 2:01:07
Помимо давления на законодателей, экосистема подотчетности должна выстраиваться «снизу вверх» — через переоценку бытовых привычек и ритуалов заботы о близких. Сегодня общество функционирует в условиях опасной иллюзии: каждый уверен, что его друзья видят в сети то же самое, что и он сам. На самом деле алгоритмы изолируют людей в абсолютно герметичных, уникальных информационных мирах. В качестве практического шага к просвещению Фрэнсис Хауген предлагает практиковать взаимный обмен экранами в кругу семьи или друзей, чтобы наглядно увидеть, какими смыслами системы насыщают сознание каждого из нас.
Интересным личным примером делится сама Фрэнсис: её муж, профессионально отслеживающий скоординированные информационные операции, открыто использует Twitter под своим именем, хотя в процессе масштабных чисток платформы лишился около 20–30 технических аккаунтов. Сам Рич Ролл отмечает, что практически перестал активно пользоваться этой платформой после изменения политики верификации и общей атмосферы.
Для преодоления этой изоляции необходимы новые продуктовые решения. Рич Ролл выдвигает идею добавления на профили пользователей специальной кнопки, позволяющей временно «посмотреть на платформу глазами этого человека». Это помогло бы мгновенно понять, в каком информационном контексте живет собеседник и почему он транслирует определенные взгляды. Пока такие инструменты не внедрены, единственным способом выживания остается развитие критического восприятия и построение здорового симбиоза с технологиями.
🌅 Возвращение агентности: от «цифровых пустышек» к историческому оптимизму 2:05:52
Цифровая гигиена и «трение»: как вернуть контроль над вниманием 2:06:21
Фрэнсис Хауген убеждена, что первый шаг к преодолению цифровой зависимости лежит через возвращение осознанности в наши повседневные действия. Рассказывая о своей поездке в рамках книжного тура, она упоминает простое мобильное приложение, которое ее поразило: при каждой попытке открыть социальную сеть на экране запускается медленный обратный отсчет «5, 4, 3, 2, 1» с вопросом: «Вы действительно хотите открыть это приложение?» . Такое искусственное «трение» (friction) дает человеку драгоценную секунду, чтобы сделать осознанный выбор вместо автоматического действия .
Сегодня смартфоны превратились в своеобразные «цифровые пустышки» . При малейшем чувстве тревоги, неловкости или скуки мы рефлекторно тянемся за телефоном, вместо того чтобы просто насладиться тишиной или пейзажем за окном . Хауген подчеркивает: «Если мы хотим мыслить творчески и быть доступными для людей, которые нам дороги, нам необходимо вернуть право на скуку и размышления» .
Среди практических шагов «цифровой гигиены» Фрэнсис выделяет простое правило: заряжать телефоны вне спальни . Когда Рич Ролл замечает, что с детьми эту «зубную пасту обратно в тюбик не выдавить», Хауген предлагает конкретное решение: детские гаджеты остаются на ночь в родительской спальне, а взрослые заряжают свои телефоны, например, на кухне, купив обычный будильник за 10 долларов .
Особое внимание нужно уделить системной работе с молодежью. Ранее в разговоре собеседники затрагивали влияние соцсетей на подростков, но здесь Фрэнсис предлагает сместить фокус на развитие их субъектности (агентности). Она сравнивает это с феноменом школьной журналистики : школьные газеты создаются не ради высокого качества текстов, а чтобы познакомить детей с этикой и принципами медиа.
Хауген предлагает создать интерактивные «лабораторные стенды» по аналогии с уроками химии . Симулированная социальная сеть позволила бы школьникам на практике понять, как работают алгоритмы: например, разыгрывать дебаты между «командой рекламы» и «командой безопасности» о том, стоит ли вводить обязательный клик по ссылке перед репостом .
Не менее важен кризис социализации. Фрэнсис приводит пугающий пример: сегодня существуют некоммерческие организации, которые учат 14-летних подростков играть в уличный баскетбол . В прошлом дети учились этому во дворах у старших ребят , но мобильная координация привела к тому, что подростки собираются закрытыми группами, не допуская младших . Решением может стать коллективная работа на уровне сообществ: проведение школьных ассамблей, где ученики сами голосуют за комфортные для них лимиты экранного времени для всей школы .
Будущее информационной войны: генеративный ИИ и верификация человечности 2:09:15
Существует глубокое противоречие между необходимостью немедленных действий (ведь на кону стоят миллионы жизней) и пониманием того, что перед нами долгосрочный системный вызов . В этом контексте генеративный ИИ и глубокие дипфейки выводят информационную войну на совершенно иной уровень, делая старые методы модерации неэффективными.
Когда платформы наводняются терабайтами синтетического контента, классическая «цензура контента» теряет всякий смысл. Невозможно отследить и верифицировать каждое сгенерированное нейросетью изображение или текст. Единственным жизнеспособным решением в этой новой реальности становится переход от контроля содержания к верификации человечности акторов. Главным вопросом безопасности становится не «что именно написано в посте?», а «является ли владелец этого аккаунта живым человеком?».
Для борьбы с угрозами нового поколения Фрэнсис призывает отказаться от идеи, что один человек (будь то Марк Цукерберг или сама Фрэнсис) может решить эти проблемы директивно . Необходима открытая демократическая дискуссия и создание широкой экосистемы безопасности, где инвесторы будут требовать от платформ минимизации долгосрочных рисков, юристы — создавать правильные стимулы, а регуляторы и родители — обеспечивать защиту на местах .
Преодоление фатализма: уроки истории и путь к изменениям 2:21:04
Оптимизм Хауген строится на глубоком понимании истории: масштабные общественные изменения никогда не происходят мгновенно. Своим главным источником вдохновения она называет дом-музей Индиры Ганди в Дели . Изучая архивные документы, Фрэнсис наткнулась на статью о пятилетней Индире, которая в далеком детстве вела за собой многотысячный детский марш — «обезьянью армию» .
Этот исторический пример стал для Фрэнсис катализатором. Борьба Индии за независимость заняла около 70 лет . Если бы в 1875 году кто-то спросил обывателя, уйдут ли британцы из Индии, никто, кроме горстки активистов, не поверил бы в это . «Фатализм — это инструмент, с помощью которого у вас пытаются украсть вашу силу», — заявляет Хауген . Вера в то, что ничего изменить нельзя, выгодна лишь тем, кто хочет сохранить статус-кво.
Фрэнсис откровенно отвечает и на личные вопросы, опровергая слухи о миллионном финансировании её деятельности. Некоммерческая организация Beyond the Screen испытывает огромные трудности с фандрайзингом . Слухи о поддержке со стороны миллиардера Пьера Омидьяра сильно преувеличены: его фонд Luminate предоставлял лишь логистическую помощь (оплату билетов и организацию встреч в Европе), но не финансировал Фрэнсис напрямую . Основной доход Хауген сегодня приносят публичные выступления, которые позволяют ей оплачивать работу ассистента .
Переезд в Пуэрто-Рико также не был связан с «крипто-налогами» . После тяжелой болезни Фрэнсис пришлось заново учиться ходить, и она до сих пор страдает от сильных нейропатических болей в ногах . Влажный и теплый климат острова позволяет ей обходиться без кондиционера и поддерживать комфортную температуру, что было бы немыслимо дорого в Сан-Франциско . Сегодня возможность ежедневно плавать в океане стала для нее залогом физического восстановления и продолжения борьбы .
