Вы получили пугающее сообщение в социальных сетях: четверо ваших солдат захвачены в заложники, и если требования не будут выполнены в течение 10 минут, их казнят. К сообщению прикреплено зернистое фото, а у вас нет времени даже на то, чтобы проверить, действительно ли эти бойцы пропали. В такой критический момент на помощь приходят не только спецслужбы, но и эксперты по цифровой криминалистике. Прикладной математик и специалист по компьютерным наукам Хани Фарид (Hany Farid) на конференции TED рассказывает, как с помощью законов геометрии и физики его команда выявляет ИИ-подделки в условиях глобальной войны за правду.
🌐 Глобальная война за правду: от сталинских чисток до ИИ-технологий 0:04
Хани Фарид отмечает, что на протяжении последних 200 лет человечеству казалось разумным доверять фотографиям. Однако манипуляции с изображениями начались гораздо раньше эпохи нейросетей. По словам ученого, еще в середине 1800-х годов викторианцы ради забавы создавали фотомонтажи, а в XX веке советская власть использовала ретушь, чтобы буквально стирать неугодных лиц из исторических хроник и учебников при Сталине. На рубеже тысячелетий, с развитием цифровых камер и фоторедакторов, изменять реальность стало значительно проще. Сегодня же, благодаря генеративному ИИ, любой желающий может создать абсолютно правдоподобный кадр одним нажатием кнопки — будь то связанные в подвале солдаты или жираф в свитере с высоким горлом.
Если раньше подобные кейсы попадали на стол к эксперту раз в месяц, то затем они стали приходить раз в неделю, а сегодня — каждый день. Причиной такой эскалации Хани Фарид называет синергию двух факторов: развитие генеративного ИИ и доминирование практически неконтролируемых социальных сетей, которые активно продвигают ложь и теории заговора ради охватов. По мнению спикера, новые технологии уже вышли за рамки невинных развлечений и активно используются преступниками. Среди реальных угроз он выделяет:
- Создание поддельных интимных снимков реальных женщин и детей с целью шантажа и унижения.
- Фальшивые видеоролики с известными врачами, продвигающими сомнительные и опасные методы лечения тяжелых заболеваний.
- Масштабное корпоративное мошенничество, из-за которого компания из списка Fortune 500 потеряла десятки миллионов долларов после того, как ИИ-клон генерального директора внедрился в рабочий видеозвонок.
Хани Фарид убежден, что мир оказался в состоянии глобальной войны за правду, последствия которой могут быть разрушительными для отдельных людей, общественных институтов и демократии в целом.
📐 Математический след: анализ остаточного шума и преобразование Фурье 3:58
Чтобы понять, как выявить высокотехнологичную подделку, необходимо разобраться в самом алгоритме генерации. Процесс создания ИИ-изображений базируется на анализе миллиардов исходных картинок с текстовыми описаниями. Каждое изображение намеренно разрушается алгоритмом до тех пор, пока от него не останется ничего, кроме визуального хаоса — случайного массива пикселей. Затем нейросеть учится обращать этот процесс вспять, превращая хаотичный цифровой шум обратно в связное изображение. Повторяя этот цикл миллиарды раз на самых разных данных, машина учится преобразовывать шум в картинку, которая семантически соответствует любому введённому тексту.
Хани Фарид подчеркивает, что этот математический метод принципиально отличается от того, как создается естественная фотография, фиксирующая реальный свет на электронную матрицу камеры. Из-за этой разницы в механизмах ученые могут извлекать из файлов так называемый остаточный шум.
При визуализации величины преобразования Фурье для этого остаточного шума на ИИ-изображениях отчетливо проявляются специфические геометрические паттерны, напоминающие звезды. На обычных снимках этот спектральный след выглядит как однородный хаос без четкой структуры. Спикер иронично заметил, что для понимания этих деталей физики и математики, возможно, зря пропускали профильные лекции в колледже, но для криминалистов такие «звезды» — первый очевидный признак работы генеративной нейросети. Применив этот метод к анализу фейкового фото с заложниками, команда Фарида сразу же обнаружила характерный звездчатый узор в спектре шума.
🏛️ Геометрия против алгоритмов: точки схода и физика теней 6:08
Поскольку искусственный интеллект опирается исключительно на статистические закономерности, он не понимает трехмерного устройства физического мира, законов оптики и геометрии. Это делает его уязвимым перед классическим анализом перспективы. Первым жестким геометрическим тестом является проверка точек схода. В реальном мире параллельные линии (например, рельсы или стыки стен), уходящие вдаль от наблюдателя, на плоскости кадра обязательно должны сходиться в одной точке. На фейковом снимке в подвале параллельные линии стен направлены в разные стороны и не имеют единой точки схода, что доказывает пространственную и физическую невозможность данной сцены.
Второй важный инструмент верификации — это анализ теней, которые подчиняются тем же строгим законам физики. Если провести условные прямые линии от края тени через объект, который её отбрасывает, то все эти лучи должны пересечься строго в месте расположения источника света.
При анализе поддельного фото с заложниками криминалисты провели линии от теней четырех солдат к их ногам. Результат показал, что эти прямые даже близко не пересекаются в одном пространственном центре. Фарид констатирует, что обнаружение сразу трех независимых физических аномалий (остаточный шум, нарушение точек схода и хаос в геометрии теней) дает стопроцентную гарантию того, что изображение сфальсифицировано.
🛡️ Как не стать заложником цифрового хаоса: четыре совета эксперта 8:10
Хани Фарид сравнивает состояние современного общества с положением заложников: люди дезориентированы, напуганы и больше не знают, чему верить. Тем не менее, эксперт утверждает, что у нас есть инструменты борьбы с дезинформацией, и предлагает четыре практических шага для защиты цифровой среды:
- Доверие профессиональным инструментам: разрабатываемые учеными технологии верификации контента уже активно передаются редакциям СМИ, судам и правоохранительным органам, чтобы защитить информационное поле.
- Внедрение цифровых паспортов контента: международный стандарт контентных удостоверений (content credentials) позволит верифицировать подлинность файлов непосредственно в момент съемки, помогая пользователям отличать реальные кадры от генераций.
- Отказ от соцсетей как источников новостей: по мнению Фарида, платформы Кремниевой долины создавались исключительно для захвата времени и внимания с помощью «информационного фастфуда», поэтому их стоит воспринимать как вредную привычку и по возможности минимизировать использование.
- Личная информационная гигиена: пользователи часто сами становятся частью проблемы, бездумно распространяя фейки. Эксперт призывает делать паузу перед каждым репостом, проверять данные через авторитетных фактчекеров и не загрязнять экосистему дезинформацией.
Человечество оказалось на развилке: либо продолжать потакать технологиям, которые раскалывают общество, либо заставить их работать на благо правды.
⚡ Блиц-опрос: статистика подделок и мифы из кино 11:39
В завершение выступления Хани Фарид ответил на серию коротких вопросов о текущем состоянии цифрового пространства:
- Какова доля фейков в сети? По мнению Фарида, количество манипулированных изображений в интернете стремительно приближается к 50%, особенно на таких платформах, как X (бывший Twitter), поэтому к любому контенту там нужно относиться с крайним скепсисом.
- Можно ли отличить фильтры от чистого ИИ? Да, эксперты могут отличить банальное использование фильтров в Instagram/TikTok или ретушь в Photoshop от стопроцентных нейросетевых генераций, хотя делать это становится все сложнее.
- Стоит ли верить онлайн-сервисам проверки картинок? Фарид категорически не рекомендует обывателям использовать случайные сайты для верификации контента. По его словам, возникла парадоксальная проблема: злоумышленники создают поддельные сайты для «проверки» фейков, чтобы подтверждать подлинность своих же манипуляций.
- Реальна ли функция «улучшения деталей» (Enhance) из детективных сериалов? Отвечая на вопрос о знаменитом голливудском штампе из сериалов вроде CSI, когда размытый пиксельный кадр превращают в четкое лицо преступника, Хани Фарид с улыбкой подтвердил, что современные технологии ИИ наконец-то сделали этот трюк абсолютно реальным.
