Технологии дипфейков достигли уровня, когда отличить реальность от искусной подделки становится практически невозможно даже для профессионалов. Астрофизик Нил Деграсс Тайсон и эксперт по кибербезопасности Алекс обсуждают, как синтетические медиа превращаются из невинных интернет-мемов в опасный инструмент политических манипуляций и многомиллионных финансовых афер.
🤖 Что такое дипфейки и как работает «глубокое обучение» 0:00
Дипфейк (deepfake) — это синтетический контент (видео, аудио или изображения), созданный с помощью искусственного интеллекта для имитации действий или слов людей, которых в реальности не было . Само название происходит от сочетания терминов «глубокое обучение» (deep learning) и «подделка» (fake) .
По словам Алекса, процесс создания дипфейка опирается на принципы работы человеческого мозга:
- Перцептрон: базовый элемент нейросети в ИИ, имитирующий органический нейрон. Он принимает несколько сигналов, присваивает им определенные «веса» и, если сумма превышает порог, выдает электрический сигнал на выходе .
- Обучение: чтобы научить нейрон работать правильно, ему показывают желаемый результат, и он корректирует «веса», пока не начнет выдавать верные данные в нужный момент .
- Глубина системы: термин «глубокое обучение» означает использование нейросетей со множеством слоев. Обучение таких систем требует обработки огромных массивов данных — счет идет на терабайты информации .
👶 От пародии до дезинформации: личный опыт Тайсона 2:40
Нил Деграсс Тайсон признается, что долго не воспринимал дипфейки всерьез, пока сам не стал их объектом. Он разделяет синтетический контент на две категории: допустимую пародию и опасную манипуляцию.
В качестве примера удачной пародии Тайсон приводит видео, где его образ в интервью с Тео Воном был изменен с помощью фильтров до состояния младенца . По мнению ведущего, такие мемы — ценное средство самовыражения, поскольку зритель сразу понимает, что это шутка .
Однако ситуация меняется, когда дипфейк используется для подрыва доверия к публичной фигуре:
- Искажение фактов: Тайсон сталкивался с видео, где его ИИ-копия зачитывала научные сценарии, написанные посторонними людьми. По его оценке, в таких роликах около 15% научной информации оказывалось ошибочной .
- Обман близких: близкий друг Тайсона прислал ему видео из TikTok о цивилизациях третьего типа, будучи полностью уверенным в его подлинности . Тайсону пришлось разочаровать друга, заявив, что он никогда не записывал этот материал .
- Угроза репутации: ведущий подчеркивает, что дипфейки могут разрушить целостность сообщения, над которой публичные деятели работают годами .
🗳️ Дипфейки как оружие в большой политике 6:05
Если поддельное научное видео может остаться незамеченным, то политические дипфейки способны дестабилизировать целые регионы. Алекс приводит примеры из текущих конфликтов:
- Украина: в начале военного конфликта на взломанном украинском ТВ появилось видео с Владимиром Зеленским, призывающим к капитуляции .
- Россия: в соцсетях распространялся ролик с Владимиром Путиным, заявляющим о достижении мира .
Хотя эти подделки были технически несовершенны (например, голова Зеленского выглядела неестественно крупной), они могли обмануть людей с ограниченным доступом к альтернативным источникам информации .
Особую опасность представляют «атаки в день тишины». Алекс утверждает, что в некоторых странах дипфейки с компроматом (взятки, обсуждение войны) выпускались в вечер пятницы или утро субботы перед выборами . Поскольку в это время политикам законодательно запрещено выступать в СМИ, у них нет возможности оперативно опровергнуть фальшивку до начала голосования .
💰 Экономика обмана: как крадут миллионы 8:16
Мошенники используют ИИ, чтобы вывести социальную инженерию на новый уровень. Алекс выделяет несколько основных типов афер:
- Романтические и инвестиционные схемы: мошенники под видом случайных знакомых («Ой, вы мой водитель в аэропорту?») втираются в доверие, а затем предлагают вложиться в сомнительные фонды, что приводит к банкротству жертвы .
- Бизнес-компрометация (BEC): в Гонконге произошел случай, когда финансовый сотрудник перевел $25 млн после видеоконференции, в которой участвовали 14 его коллег, включая топ-менеджмент . На самом деле все участники встречи, кроме жертвы, были дипфейками.
- Семейные звонки: злоумышленники имитируют голос ребенка, который якобы попал в беду (арестован или ранен) и срочно просит денег . Для создания качественного клона голоса ИИ достаточно записи длиной всего в несколько десятков секунд .
🛡️ Технологии защиты: от «медового месяца» до ИИ-детекторов 11:10
В качестве защиты от телефонного мошенничества Алекс рекомендует перестать отвечать на звонки с незнакомых номеров, так как за последний год почти все такие вызовы оказывались попытками выведать личные данные .
Среди технологических инструментов борьбы с дипфейками упоминаются:
- Scamio: инструмент, использующий «ИИ-приманки» (honeypots). Система создает виртуальных персонажей, которые ведут бесконечные беседы с мошенниками, тратя их время и собирая данные об их методах для улучшения алгоритмов детекции .
- Видео-анализаторы: специализированные инструменты, которые определяют не только общую вероятность подделки, но и указывают на конкретные измененные части кадра .
- Аудио-детекторы: системы, которые транскрибируют речь и анализируют её на предмет соответствия паттернам ИИ-генерации .
⚖️ Регулирование и будущее индустрии 13:55
Обсуждая будущее, Тайсон выразил надежду на этические кодексы компаний-разработчиков. Например, в новой модели Sora 2 от OpenAI заложены правила: нельзя создать дипфейк человека без его явного разрешения и наличия у него аккаунта на платформе .
Однако Алекс настроен скептически. По его мнению, наличие правил у одной компании не помешает конкурентам создавать инструменты без ограничений . Эксперт считает, что в кибербезопасности «всегда будет работа», так как злоумышленники постоянно совершенствуют свои методы.
Нил Деграсс Тайсон дает совет, как распознать его собственные дипфейки уже сегодня: ИИ пока не умеет имитировать его специфические вокальные интонации, тембр и паузы — как драматические, так и паузы для раздумий .
В завершение Тайсон подчеркивает: он никогда не рекламирует продукты, кроссовки или напитки . Если вы видите видео, где астрофизик что-то продает — это стопроцентный дипфейк . Единственное, к чему он призывает людей каждый день, — это «продолжать смотреть вверх» .
