В эпоху стремительного развития искусственного интеллекта человечество сталкивается с вызовом, способным изменить саму суть нашего восприятия реальности. Нина Шик, эксперт по технологиям дезинформации, в беседе с Джорданом Харбинджером на The Jordan Harbinger Show объясняет механизмы работы дипфейков — синтетических медиа, которые позволяют любому человеку с компьютером создавать гиперреалистичный видео- и аудиоконтент. Это исследование того, как технология, начинавшаяся с безобидных интернет-мемов и поддельного порно, превращается в мощнейшее оружие политической дестабилизации, мошенничества и тотальной эрозии общественного доверия.
🤖 Что такое дипфейки и как они работают 0:51
По определению Нины Шик, дипфейк — это тип синтетических медиа (видео, аудио или изображения), которые были либо изменены с помощью искусственного интеллекта, либо полностью созданы им . Эта технология стала доступной в последние пять лет и продолжает совершенствоваться с колоссальной скоростью .
Ключевые механизмы работы технологии:
- Обучающие данные: Для создания цифровой копии человека ИИ необходим массив данных — фотографии лиц или записи голоса .
- Доступность исходников: В современном мире цифровой след каждого пользователя (соцсети, LinkedIn, YouTube) предоставляет ИИ достаточно материала для «угона биометрии» .
- Снижение порога входа: Если раньше для создания качественного дипфейка требовались часы видео, то сегодня достаточно нескольких секунд записи голоса или одной фотографии из Instagram .
Нина Шик отмечает, что сегодня мы находимся в самом начале пути: сайты вроде thispersondoesnotexist.com уже генерируют лица людей, которых никогда не существовало, и человеческий глаз не способен отличить их от реальных . По мнению гостьи, дипфейки — это не просто редактирование контента (как вырезание слова «не» из фразы), это создание новой реальности из ничего .
🎭 «Голливуд на коленке»: конец монополии на спецэффекты 5:40
Нина Шик считает, что синтетические медиа станут таким же важным этапом в истории человеческой коммуникации, как изобретение интернета . Согласно прогнозам экспертов, которых Нина интервьюировала для своей книги, уже через 10 лет до 90% видеоконтента в интернете может быть синтетическим .
Основные последствия этой трансформации:
- Демократизация технологий: Если сегодня для качественного омоложения актера в кино (как в фильме «Ирландец» Мартина Скорсезе) требуются миллионы долларов и команды экспертов, то к концу десятилетия обычный блогер сможет добиться того же результата бесплатно .
- Кейс «Ирландца»: Бюджет фильма составил $159 млн, значительная часть которых ушла на визуальные эффекты . Однако спустя год после выхода фильма анонимный YouTube-блогер с помощью бесплатного ПО и обычного игрового ПК улучшил эффект омоложения актеров всего за неделю, показав результат, превосходящий работу студии .
- Позитивные сценарии: Технология может использоваться в образовании, индустрии развлечений (возвращение к жизни образов Одри Хепберн или Фрэнка Синатры) и даже в терапии — например, для создания ИИ-копий ушедших близких для «завершения диалога» .
Джордан Харбинджер, в свою очередь, выражает опасение, что это может привести к антиутопическому сценарию (как в фильме «Она»), где люди предпочтут общение с идеальными ИИ-копиями реальному человеческому взаимодействию .
🏛️ Угроза демократии и «дивиденды лжеца» 13:50
По мнению Нины Шик, главная опасность дипфейков для либеральных демократий заключается в разрушении общей базы объективных фактов . Без согласия относительно реальности общество теряет способность к компромиссу и совместным действиям.
Концепция «дивидендов лжеца» (Liar's Dividend):
- Суть: В мире, где подделать можно всё (включая видеодоказательства), любой виновный может заявить, что подлинная запись его преступления — это дипфейк .
- Эффект: Это дает плохим игрокам (политикам, преступникам) возможность отрицать реальность, даже если их поймали с поличным .
- Примеры: Шик отмечает, что политические лидеры уже начинают называть настоящие компрометирующие видео дипфейками, чтобы избежать ответственности .
Особое внимание собеседники уделили подходу Китая. По словам Нины, Китай — единственная страна, принявшая тотальный закон, запрещающий дипфейки. По её мнению, это дает центральному правительству монопольное право определять, что является правдой, а что — подделкой . Харбинджер добавляет, что в условиях цифровой диктатуры это станет инструментом «заметания следов» и создания альтернативной реальности для населения .
🔞 Темная сторона: от порно до финансового мошенничества 31:48
Первым и самым массовым применением дипфейков стала «недобровольная порнография». Шик напоминает, что термин «дипфейк» возник в конце 2017 года на Reddit — так звали пользователя (Deepfakes, комбинация слов deep learning и fakes), который начал накладывать лица знаменитостей на видео в порнофильмах .
Масштабы проблемы:
- Гендерный аспект: Это явление направлено преимущественно против женщин (знаменитостей и обычных людей) .
- Масштаб: Уже в 2020 году в мессенджере Telegram был обнаружен бот, который сгенерировал более 100 000 поддельных обнаженных изображений обычных женщин и несовершеннолетних девушек .
- Политическое давление: В Индии дипфейк-порно было использовано для дискредитации журналистки-расследователя, критиковавшей правительство. За видео последовали доксинг и кампания массовых преследований .
Другим опасным направлением является голосовой синтез. Джордан Харбинджер отмечает, что имея более 1500 часов записей своего голоса, он является легкой мишенью . Нина Шик подтверждает, что случаи финансового мошенничества уже зафиксированы.
В 2019 году Wall Street Journal сообщил о случае в британской энергетической компании: мошенники с помощью ИИ подделали голос немецкого руководителя головного офиса . Топ-менеджер британского филиала, не сомневаясь, что говорит с боссом (акцент и интонации были идеальными), перевел 250 000 долларов на счет в Венгрии по указанию «голоса» .
🛡️ Как защититься в мире без правды 48:26
Технологическая гонка вооружений между создателями дипфейков и разработчиками детекторов напоминает игру в кошки-мышки. Шик считает, что любые «цифровые криминалистические методы» (проверка моргания глаз, размытие за ушами) — это лишь временный пластырь, так как ИИ учится исправлять эти ошибки .
Предлагаемые решения:
- Проверка подлинности (Media Provenance): Инициатива компании Adobe и производителей чипов (Qualcomm) по внедрению в «железо» смартфонов инструментов, позволяющих доказать аутентичность кадра в момент съемки .
- Общественный договор: Нам необходимо пересмотреть правовые системы и политику регулирования для эпохи синтетических медиа .
- Ментальная гигиена: Нина Шик призывает быть «скептиками, но не циниками» . Если скептицизм помогает проверять информацию, то цинизм (неверие ни во что) ведет к победе пропаганды и разрушению общества.
Харбинджер резюмирует, что сейчас мы находимся в опасном десятилетнем окне, когда технологии уже позволяют обманывать массовое сознание, а медиаграмотность населения (особенно старшего поколения) еще значительно отстает . В будущем нам придется смириться с тем, что «видеодоказательство» больше не является безусловным подтверждением факта .
