С развитием технологий искусственного интеллекта киберпреступность вышла на принципиально новый уровень, превратившись в масштабную индустрию, от которой страдает каждый четвертый взрослый человек в мире. В своем выступлении в Stanford Graduate School of Business эксперт по кибербезопасности Дэниел Нелмс рассказывает, почему в уязвимости перед мошенниками виноваты не сами жертвы, а системные недостатки цифровой инфраструктуры. Спикер призывает изменить отношение общества к пострадавшим и переложить ответственность на технологические платформы, банки и регуляторов.
🤖 Новая эра киберпреступности: от «нигерийских писем» к дипфейкам 0:05
Представьте звонок от близкого человека: «Мама, это я, Дэн. Я в Мексике, у меня неприятности. Мне нужно, чтобы ты прислала мне 10 000 долларов». Голос звучит абсолютно идентично оригиналу, но на самом деле он полностью сгенерирован искусственным интеллектом на основе коротких аудиоклипов, выложенных в открытый доступ. Большинство людей уверены, что легко распознали бы обман. Однако в стрессовой ситуации, когда встревоженная мать слышит отчаянный крик о помощи от своего сына, находящегося в реальной поездке за границей, рациональное мышление уступает место панике.
Дэниел Нелмс, более 12 лет занимавшийся борьбой с мошенничеством в компании Google, констатирует: индустрия киберпреступности ушла далеко вперед от эпохи очевидных спам-рассылок сомнительного содержания. Современные злоумышленники проводят тщательный анализ потенциальной жертвы. Они изучают социальные связи, страхи и текущие жизненные обстоятельства человека. Вектор атаки строится вокруг одного реального факта — например, факта поездки в Мексику, — который упаковывается в атмосферу крайней срочности. Технологии ИИ позволяют автоматизировать этот процесс, делая таргетированные атаки дешевыми, массовыми и бесконечными. Преступникам остается лишь дождаться момента, когда пользователь окажется уставшим или отвлеченным.
📊 Масштаб катастрофы и психологическое оружие мошенников 1:52
Согласно приведенным Нелмсом статистическим данным, за прошлый год каждый четвертый взрослый человек в мире потерял деньги в результате действий мошенников. В общей сложности от обычных граждан в карманы киберпреступников перетекли колоссальные полтриллиона долларов. При этом главной проблемой, по мнению спикера, остается тяжелый психологический урон: пострадавшие испытывают глубокое чувство стыда, оказываются в изоляции и предпочитают скрывать произошедшее от близких.
В качестве иллюстрации Нелмс приводит историю пожилого мужчины, которой с ним поделилась попутчица в самолете. Ее отец познакомился в Facebook с женщиной. После нескольких недель доверительного общения она порекомендовала ему инвестировать в криптовалюту, которая якобы должна была резко вырасти в цене. Не разбираясь в теме, мужчина вложил небольшую сумму и, увидев виртуальный рост доходов, доверился мошеннице еще сильнее. Он продолжал вносить средства до тех пор, пока не заложил собственный дом ради выплаты «налогов» на вымышленные выигрыши. Только на этом этапе к ситуации подключилась дочь, которая предъявила неопровержимые доказательства обмана. Тем не менее отцу потребовалось еще три месяца, чтобы полностью прекратить контакты со злоумышленницей и признать, что он потерял все свои пожизненные сбережения.
🛑 Системный сбой: почему цифровая среда безопасна для преступников, а не для нас 3:40
Современный мир стал максимально комфортным и прибыльным для мошенников, но превратился в опасную и истощающую среду для всех остальных. Дэниел Нелмс подчеркивает, что корень проблемы кроется не в неостановимости самих технологий, ведь инструменты ИИ доступны обеим сторонам. Причина заключается в том, что существующая система и стимулы в ней не настроены на защиту конечного пользователя.
Спикер указывает на явные проявления системного кризиса:
- Корпорации ежедневно допускают утечки персональных данных, ограничиваясь лишь формальными электронными письмами с призывами «сохранять бдительность».
- Технологические платформы получают прямую прибыль от размещения мошеннической рекламы и проявляют пассивность, прикрываясь дежурными фразами о том, что они «работают над этим».
- Банковские структуры снимают с себя ответственность, заявляя пострадавшим: «Вы сами одобрили транзакцию, мы ничем не можем помочь».
- Правоохранительные органы демонстрируют крайнюю неохоту при расследовании подобных киберпреступлений.
🧠 Феномен обвинения жертвы и уроки автомобильной истории 4:50
Решение проблемы должно начинаться с базового изменения общественного восприятия — отказа от обвинения жертвы. Когда заходит речь о пострадавших от мошенников, обыватели чаще всего представляют стереотипный образ доверчивой бабушки или эксцентричной родственницы. Однако реальность такова, что жертвами становятся миллионы обычных, образованных людей. Типичная реакция окружающих «Как ты мог на это повестись?» лишь усугубляет ситуацию, заставляя пострадавших замыкаться в себе. По словам Нелмса, это молчание служит идеальным прикрытием для преступников и порождает коллективное попустительство со стороны общества. Обвинение жертвы — это глубокий психологический инстинкт, позволяющий человеку иллюзорно контролировать мир и избавляющий его от необходимости проявлять эмпатию и предпринимать действия.
Для демонстрации того, как общество может преодолевать подобные кризисы, Нелмс обращается к истории автомобилизации начала XX века. Когда машины только заполнили улицы городов и начали массово сбивать пешеходов, городские группы безопасности не стали защищать людей. Вместо этого они ввели в обиход пренебрежительный термин «джейвокер» (jaywalker — от сленгового «jay», означавшего деревенского дурака). Обществу транслировался тезис: если ты попал под машину, это исключительно твоя вина.
К 1920-м годам смертность на дорогах достигла критических масштабов, что вынудило общество пересмотреть подходы. Ответственность наконец была переложена на тех, кто обладал реальной силой изменить ситуацию: регуляторов, автопроизводителей и водителей. Дорожная инфраструктура была полностью перепроектирована с расчетом на то, что человеку свойственно совершать ошибки: появились разделительные полосы, ограждения и пешеходные переходы.
🚀 Будущее цифровой безопасности: от личной бдительности к системной защите 7:45
Спикер призывает применить аналогичный инфраструктурный подход к сфере цифровых технологий. Прогрессивное будущее должно выглядеть следующим образом: технологические платформы обязаны надежно перехватывать вредоносные сообщения до того, как они дойдут до пользователя; банки должны без судебных тяжб возмещать ущерб пострадавшим, а полиция — расследовать кражу пенсионных накоплений с тем же усердием, что и угон автомобиля. Сегодня же людям приходится прибегать к архаичным методам безопасности вроде семейных кодовых слов — например, в семье Нелмса таким словом-паролем служит «ананас».
Спикер заявляет, что общество больше не должно мириться с ситуацией, когда мошенники действуют безнаказанно, а законопослушные граждане рискуют своими активами и достоинством при каждом выходе в сеть. Для изменения ситуации необходимы три конкретных шага:
- Оказывать максимальную поддержку знакомым и близким, ставшим жертвами киберпреступлений.
- Принимать участие в голосовании и требовать от политических представителей привлечения банков и ИТ-гигантов к жесткой ответственности, а также финансирования киберполиции.
- Разработчикам в сфере кибербезопасности следует сместить фокус с защиты крупных корпораций на создание инструментов для конечных потребителей.
В заключение Дэниел Нелмс объявил о создании собственного бизнеса, сфокусированного на предотвращении мошенничества и помощи в восстановлении пострадавшим потребителям. Главная цель этой инициативы — перестроить цифровую инфраструктуру так, чтобы базовая безопасность человека больше не требовала от него ежесекундной предельной бдительности.
