# Эндрю Холл: «Главная опасность дипфейков — подрыв доверия к реальности»

Источник: https://www.youtube.com/watch?v=4yLswbtQOnE
Канал: Stanford Graduate School of Business
Опубликовано: 07.11.2024

---

Развитие генеративного искусственного интеллекта ставит перед демократическими институтами новые вызовы, кардинально меняя привычные способы создания, распространения и потребления контента. Профессор Высшей школы бизнеса Стэнфордского университета (Stanford Graduate School of Business) Эндрю Холл рассматривает текущие угрозы, связанные с дипфейками и чат-ботами, через призму исторических технологических прорывов в информационных экосистемах. Он утверждает, что, хотя технологии ИИ обладают уникальной спецификой, реакция общества на них во многом повторяет этапы адаптации к печатным станкам, радиовещанию и телевидению.

## 📜 Исторический контекст: от печатного станка до социальных сетей
[[JUMP:00:50]]

Информационные кризисы не являются изобретением XXI века. Первым масштабным потрясением в истории европейской цивилизации стало появление печатного станка Гутенберга. Технология, позволившая массово тиражировать книги, привела к своеобразной демократизации знаний, однако власть имущие быстро столкнулись с распространением нежелательных идей. По словам историков, этот технологический сдвиг спровоцировал Реформацию и вызвал тектонические изменения в структуре католической церкви в Западной Европе. Эпоха сопровождалась насилием, попытками жесткой цензуры и валом печатных фальшивок, созданных для обмана читателей. Обществу потребовалось немало времени, чтобы научиться верифицировать авторов и отличать правду от вымысла.

Конец XIX и начало XX века ознаменовались новой индустриализацией прессы: бумага и чернила подешевели, а печатные машины стали высокопроизводительными. Это привело к расцвету феномена, известного как «жёлтая пресса». Состоятельные люди скупали газеты для продвижения собственных интересов и пропаганды. Хрестоматийным примером стало крушение американского броненосца Maine, ответственность за которое газетные магнаты безосновательно возложили на Испанию, чтобы втянуть США в войну. Исторические споры об истинных причинах этого инцидента продолжаются до сих пор. Однако именно в ответ на засилье дезинформации той эпохи сформировались стандарты современной профессиональной журналистики, включая открытие профильных школ, правила цитирования и анонимных источников.

Следующим революционным этапом стало появление радио. В 1930-е годы католический священник отец Кофлин стал первым и самым влиятельным политическим радиоведущим в США, собиравшим у приемников 30 миллионов слушателей еженедельно, при том что всё население страны составляло 120 миллионов человек. Пользуясь огромным медийным влиянием, он транслировал откровенно антисемитские, популистские и прогитлеровские взгляды. В итоге администрация президента Рузвельта была вынуждена прибегнуть к юридическим механизмам, чтобы лишить его эфира. В тот же период радиовещание активно использовалось тоталитарными лидерами Европы — Гитлером и Муссолини — для тотального контроля над сознанием масс. Законы и общественные нормы регулирования радио развились именно как защитная реакция на эти угрозы.

Во второй половине XX века телевидение вновь изменило формат взаимодействия политиков с избирателями. Первые телевизионные дебаты между Джоном Кеннеди и Ричардом Никсоном в 1960 году наглядно продемонстрировали важность визуального образа: Кеннеди использовал грим и выглядел уверенно, тогда как Никсон казался уставшим и потным. Внедрение интернета, а затем и социальных сетей продолжило эту историческую цепочку, удешевив доставку информации и позволив гражданам общаться напрямую друг с другом в обход традиционных редакций. И если в эпоху «Арабской весны» социальные медиа воспринимались с огромным оптимизмом как инструмент борьбы с цензурой, то сегодня баланс сместился в сторону тревоги из-за манипуляций информационным полем.

## 🖼️ Феномен дипфейков и «дивиденд лжеца»
[[JUMP:11:42]]

В качестве примера современных вызовов Эндрю Холл приводит мартовский инцидент 2024 года с официальной фотографией принцессы Уэльской Кейт Миддлтон и её детей. После долгого отсутствия принцессы на публике Кенсингтонский дворец опубликовал снимок, который вскоре был официально отозван крупнейшим агентством Associated Press из-за обнаруженных следов цифровой манипуляции. Этот шаг спровоцировал волну конспирологических теорий о том, что принцессы нет в живых, а изображение полностью сгенерировано ИИ.

В реальности, как отмечает профессор, фотография не была фальшивкой в привычном понимании. Пресс-служба дворца просто объединила элементы из сотни реальных дублей с помощью Photoshop, чтобы на итоговом кадре все трое детей одновременно улыбались и смотрели в камеру. Дворец оказался совершенно не готов к панике, которую вызвало слово «манипуляция» в отчетах информационных агентств. Из этого кейса Холл выводит два ключевых концептуальных тезиса:

* Самый опасный эффект дипфейков заключается не в самом факте их существования, а в том, что люди начинают сомневаться в подлинности абсолютно реальных документов, фото- и видеоматериалов.
* Популярная идея обязательной маркировки контента (watermarking), созданного или измененного с помощью ИИ, не решит проблему дезинформации. Базовое редактирование и техническая склейка кадров получат ту же метку ИИ, что и полностью сфабрикованный компромат, усиливая ложную подозрительность аудитории.

Такое положение дел создает условия для так называемого «дивиденда лжеца» (liar's dividend). Теперь любой уличенный в скандале политик может заявить, что подлинные и верифицированные компрометирующие аудиозаписи или видеоролики являются продуктом генеративного ИИ. Подобные прецеденты уже фиксировались на выборах в Турции. В США Дональд Трамп публично утверждал, будто фотографии с многотысячного предвыборного митинга Камалы Харрис в аэропорту были полностью сгенерированы искусственным интеллектом, хотя мероприятие проходило в реальности.

## 🔍 Куда исчезли политические дипфейки?
[[JUMP:16:26]]

Вопреки апокалиптическим прогнозам аналитиков, звучавшим с 2018 года, избирательные кампании в США не захлестнула волна высокотехнологичных фальшивок. Наиболее заметным примером за последнее время стало сгенерированное ИИ изображение девочки на фоне затопленных улиц во время урагана во Флориде. Картинка быстро приобрела политический контекст: сторонники республиканцев использовали её для критики администрации Джо Байдена и Камалы Харрис за якобы неэффективную помощь пострадавшим от стихии. 

Профессор Холл характеризует этот инцидент как «абсолютное ничто» (nothing burger) с точки зрения влияния на электоральные процессы. Изображение не содержало принципиально новой информации: избиратели и так знали, что регион пострадал от наводнения и среди жертв есть дети. Картинка лишь проиллюстрировала уже существующие политические позиции, но не изменила ничьего мнения и не повлияла на исход голосования. По мнению спикера, большинство циркулирующих дипфейков носят либо очевидный сатирический характер, либо оказываются неэффективными.

Холл предлагает два объяснения отсутствия масштабных атак с использованием дипфейков:

1.  **Сверхвысокая поляризация американского общества.** Изменить мнение современного избирателя в США чрезвычайно трудно. Крупномасштабные рандомизированные исследования политической рекламы в интернете и традиционных медиа показывают, что её влияние на электоральные предпочтения граждан стремится к минимуму. Американцы обладают устойчивой системой взглядов, и один дипфейк не способен пробиться сквозь ежедневный информационный шум.
2.  **Эффект досрочного голосования.** Полноценный «октябрьский сюрприз» (по аналогии с неожиданным заявлением главы ФБР Джеймса Коми в 2016 году, серьезно повлиявшим на исход выборов) организовать в конце октября становится все сложнее. На сегодняшний день досрочное голосование крайне популярно, и к моменту гипотетического вброса значительная часть избирателей уже успевает отдать свои голоса.

## 🤖 ИИ как инструмент манипуляции в администрировании выборов
[[JUMP:22:53]]

Наибольшую обеспокоенность у Эндрю Холла вызывает потенциальное использование искусственного интеллекта не до, а непосредственно после дня голосования. Если разрыв между кандидатами окажется минимальным, подсчет голосов затянется на недели, как это было в 2020 году. Этот межигровой период крайне уязвим для манипуляций, когда стороны активно спекулируют на теме честности подсчета.

Профессор приводит реальный случай, произошедший во время первичных выборов (праймериз) в округе Уошо, штат Невада. Местный активист, позиционирующий себя как эксперт по электоральным фальсификациям, загрузил официальные промежуточные данные о результатах выборов в ChatGPT и настойчиво требовал от нейросети найти признаки манипуляций. В процессе диалога чат-бот перестал анализировать массив цифр и начал галлюцинировать, выдав категоричные рекомендации: «обратиться в правоохранительные органы в связи с высокой вероятностью манипуляций» и «окружной комиссии не сертифицировать данные выборы». 

Активист включил эти ответы ИИ в свой официальный отчет, подчеркнув, что использовал «самые передовые платформы искусственного интеллекта и суперкомпьютеры в мире». На основании этого документа местная избирательная комиссия изначально отказалась утверждать результаты голосования, что привело к политическому кризису и задержке сертификации. При этом автор отчета сам выложил логи общения с ChatGPT, не заметив, что нейросеть полностью проигнорировала реальные цифры и просто потакала его наводящим вопросам. Холл предупреждает, что в случае близких результатов на всеобщих выборах подобные псевдостатистические отчеты, сгенерированные ИИ, могут посыпаться лавиной.

## 📊 Как адаптируется общество: данные социологического опроса
[[JUMP:28:05]]

Чтобы проверить, как американцы оценивают подлинность информации в эпоху ИИ, исследовательская группа под руководством Холла провела масштабный социологический опрос среди 3 000 репрезентативно отобранных граждан США. Респондентам предлагалось оценить гипотетический сценарий: они видят заявление политика в аудио-, фото- или видеоформате в социальных сетях либо в эфире телевизионных новостей. По шкале от 0 (абсолютное недоверие) до 4 (полная уверенность) фиксировался уровень доверия к контенту.

Результаты опроса продемонстрировали высокий уровень базового скептицизма среди населения:

* Средний уровень доверия к изолированным аудио- и фотоматериалам колеблется между отметками «не уверен» и «умеренно уверен». Аудитория понимает, насколько легко сейчас подделать голос или изображение.
* Видеоформат по-прежнему обладает определенным кредитом доверия, так как создание качественного фейкового видео все еще требует значительных технологических и финансовых затрат.
* Телевизионные новости вызывают значительно больше доверия, чем публикации в социальных сетях. Граждане резонно полагают, что редакции крупных телеканалов осуществляют хотя бы минимальную верификацию материалов перед выпуском в эфир, в отличие от платформ гражданской журналистики.

В разрезе демографических групп выявился неожиданный возрастной парадокс. Вопреки стереотипам, наиболее адаптированными и скептически настроенными оказались пожилые американцы в возрасте от 55 лет и старше. Молодежь в категории от 18 до 34 лет демонстрирует существенно более высокий уровень доверчивости ко всем видам медиаконтента на любых платформах. Также предварительный анализ данных показал, что люди с более высоким уровнем дохода и образования, а также белое население США в среднем настроены более скептически по отношению к получаемой информации.

## 🛠️ Новые институты и позитивное использование технологий
[[JUMP:37:07]]

Поскольку технологическое развитие лишило общество возможности верить собственным глазам и ушам при просмотре цифрового контента, человечество вынуждено искать новые точки опоры. Холл считает, что выходом станет возвращение к репутационной модели. В первой половине XX века журналисты доказывали свою правоту не демонстрацией аудиозаписей, а авторитетом медиаинститута, который дорожил своим именем и нес экономические потери в случае публикации лжи.

Параллельно развиваются новые цифровые институты верификации, среди которых профессор особо выделил систему Community Notes на платформе X (бывший Birdwatch в Twitter). Проект представляет собой децентрализованную сеть случайно набранных и экономически компенсируемых пользователей, которые верифицируют спорные публикации. Данный инструмент демонстрирует высокую эффективность, регулярно снабжая опровержениями и контекстом даже публикации владельца платформы Илона Маска, которые тот не удаляет. 

Инженерные решения также предлагают выходы из кризиса доверия. Крупные СМИ, такие как The New York Times, внедряют дорогостоящие профессиональные фотокамеры, которые на аппаратном уровне ставят криптографический штамп на снимок в момент нажатия кнопки затвора. Это позволяет математически доказать, что изображение было зафиксировано физической линзой в реальном мире, и отследить любую последующую цепочку изменений.

Кроме того, генеративный ИИ может служить укреплению демократии. Профессор сослался на совместное исследование Ямиля Велеса, Семры Севи и Дональда Грина. Учёные использовали языковые модели для анализа сложных и объемных программ политических партий на местном уровне (например, на выборах в школьные советы), о которых избиратели обычно ничего не знают. На основе этих данных были созданы интерактивные чат-боты. Граждане могли вести с ними диалог, оперативно получая точные выжимки позиций кандидатов. Эксперимент показал, что пользователи таких чат-ботов становились значительно более информированными и выражали желание использовать подобные инструменты ИИ в будущем.

## ❓ Регулирование, поляризация и вопросы аудитории
[[JUMP:45:53]]

В ходе сессии вопросов и ответов один из слушателей поднял проблему использования машинного обучения для автоматизации маркетинга и создания таргетированных политических кампаний нового типа (на примере деятельности структур вроде Future Forward). Холл согласился, что комбинация генеративного ИИ и алгоритмов машинного обучения позволяет запускать рекламные кампании в полностью автоматическом цикле без участия человека: система сама создает тысячи вариаций объявлений, тестирует их на аудитории и мгновенно масштабирует самые кликабельные варианты. При этом профессор призвал не преувеличивать их реальное воздействие на умы людей, напомнив, как после выборов 2016 года пресса раздула феномен компании Cambridge Analytica, чьи методы академическое сообщество изначально не считало серьезными.

Отвечая на вопрос о необходимости государственного регулирования ИИ, Эндрю Холл высказал крайний скептицизм относительно законов против «политической дезинформации». Основываясь на своем опыте взаимодействия с технологическими гигантами (Холл является советником в Meta), он подчеркнул, что принятые в ряде стран законы о борьбе с фейками в соцсетях быстро превратились в банальный инструмент государственной цензуры, позволяющий чиновникам блокировать любое неугодное мнение под предлогом заботы о безопасности. Попытки административного контроля над дискуссиями в США также раз за разом оборачивались провалом и вызывали лишь отторжение у граждан. 

Обсуждая инициативу штата Нью-Джерси по введению обязательных уроков медиаграмотности в школах, профессор отметил сложность этой задачи. Зачастую школьники находят такие уроки скучными или излишне поучительными. Более перспективным Холл считает опыт Стэнфорда, где внедрили междисциплинарный курс гражданского образования для бакалавров. Студентам объясняют как опасность создания технологических продуктов без оглядки на их влияние на демократию, так и важность ведения открытого гражданского дискурса с людьми, имеющими противоположные политические взгляды. По мнению профессора, именно преодоление тотальной медийной поляризации (когда одна часть страны смотрит только Fox News, а другая читает исключительно The New York Times) является главным условием для оздоровления информационной среды.