В рамках инициативы «Корпорации и общество» (Corporations and Society Initiative) в Stanford Graduate School of Business состоялась дискуссия с Николь Перлрот, бывшей ведущей журналисткой The New York Times по кибербезопасности и автором бестселлера «Так мне сказали, что наступит конец света». В ходе беседы эксперт проанализировала, как искусственный интеллект радикально меняет ландшафт цифровых угроз, почему дезинформация опаснее кибератак и как современные технологические гиганты балансируют между прибылью и государственной безопасностью.
🎙️ От Forbes до секретных бункеров: путь в кибербезопасность 1:16
Карьера Николь Перлрот началась в 2009 году, когда она освещала венчурные инвестиции в Forbes, наблюдая за взлётом Facebook и Uber . Предложение The New York Times перейти на тему кибербезопасности она поначалу встретила с неохотой, считая эту сферу слишком технической и скучной .
Однако редакторы издания искали не технического специалиста, а «переводчика», способного объяснить сложные технологии массовой аудитории . Перлрот пришла в газету в месяц обнаружения червя Stuxnet — совместной операции США и Израиля против иранских ядерных объектов — и покинула её спустя десять лет, после раскрытия масштабной атаки на цепочку поставок SolarWinds .
За время своей работы она прошла путь от репортёра до советника в Агентстве по кибербезопасности и защите инфраструктуры (CISA) при администрации Байдена . Работа в госсекторе потребовала от неё отказа от журналистики, чтобы иметь доступ к секретным данным, включая предупреждения о готовящемся вторжении России в Украину и потенциальных киберугрозах . Сегодня Николь Перлрот занимается венчурными инвестициями, фокусируясь на защитных технологиях.
⚡ ИИ и «смерть» нулевого дня: взломы за доли секунды 7:06
Главное изменение, которое ИИ привнёс в киберсферу, — это радикальное сокращение времени на обнаружение и эксплуатацию уязвимостей. Перлрот подробно остановилась на рынке «нулевого дня» (zero-day) — необнаруженных дыр в ПО.
Ключевые факты о рынке уязвимостей:
- Стоимость: Саудовская Аравия готова платить до $10 млн за одну критическую уязвимость в iOS .
- Скорость: Раньше на поиск и создание эксплойта уходили месяцы или годы. Теперь ИИ-инструменты, такие как Xbow, занимают верхние строчки в рейтингах хакеров, находя уязвимости за считанные секунды .
- Демократизация: Барьер входа для проведения сложных атак рушится. По мнению Перлрот, теперь любой субъект с достаточной волей может получить возможности уровня АНБ (NSA) или израильского подразделения 8200 .
Перлрот утверждает, что риск автоматизированных программ-вымогателей (ransomware) недооценивается. Если раньше хакерам приходилось вручную шифровать данные и вести переговоры о выкупе, то теперь LLM (крупные языковые модели) обучаются делать это самостоятельно . ИИ может проводить инвентаризацию активов жертвы, разрабатывать стратегию монетизации и даже вести чаты по выплатам, используя методы психологического давления для получения максимальной прибыли .
🛡️ Оборона в эпоху ИИ: игра в догонялки 12:07
Хотя ИИ дает преимущество атакующим (особенно в социальном инжиниринге и создании фишинговых писем через ChatGPT), на стороне защиты также появляются новые инструменты . Перлрот отметила несколько направлений:
- Детекция дипфейков: Инвестиции в такие стартапы, как GetReal, позволяют выявлять поддельные видео и аудио в реальном времени .
- Автоматизация триажа: ИИ-агенты могут непрерывно отслеживать оповещения систем безопасности, устраняя риск человеческой ошибки из-за разницы часовых поясов или усталости (как это случилось при взломе Target) .
- Управление рисками третьих лиц: Вместо ежегодных бумажных проверок поставщиков новые ИИ-инструменты сканируют экосистемы вендоров в режиме 24/7 на соответствие стандартам NIST .
💻 «Vibe Coding» и дырявый код 15:07
Особое беспокойство у эксперта вызывает использование ИИ для написания кода (так называемый «vibe coding»). Перлрот процитировала лекцию Кена Томпсона 70-летней давности «Reflections on Trusting Trust», суть которой в том, что нельзя доверять исходному коду, который вы не написали сами .
Современная статистика подтверждает эти опасения:
- Согласно исследованию Veracode, код, сгенерированный LLM, в лучшем случае получает оценку «F» (55 из 100) по уровню безопасности .
- Использование ИИ для кодинга расширяет поверхность атаки, так как создается огромный объем уязвимого ПО, которое хакеры сканируют в автоматическом режиме .
В качестве решения Перлрот предлагает использовать специализированные инструменты вроде Semgrep — своего рода «проверку орфографии» для кода, которая учитывает контекст разработки и указывает на уязвимости в реальном времени .
🌍 Геополитика и цензура внутри LLM 20:18
ИИ становится инструментом межгосударственного давления. Перлрот поделилась инсайдом от юристов OpenAI: правительства (в частности, Саудовской Аравии), используя свой контроль над дата-центрами и энергетической инфраструктурой для ИИ, пытаются заставить разработчиков LLM цензурировать ответы, делая их более благоприятными для режима .
По мнению Перлрот, миру необходимы независимые инструменты для «чтения мыслей» моделей в реальном времени. В качестве примера она привела компанию Realm Labs, которая отслеживает потенциальную скрытую цензуру в выдаче ИИ .
📢 Дезинформация: угроза номер один 23:28
Перлрот считает дезинформацию более опасной угрозой, чем кибератаки или изменение климата . Главная проблема в том, что инструменты борьбы с «нарративными атаками» (например, от Alethea Group или Blackbird) доступны только 0,01% богатейших компаний и политиков .
В качестве иллюстрации разрушительной силы дезинформации она привела историю горнодобывающего гиганта Rio Tinto в Сербии:
- Компания инвестировала $2 млрд в литиевый рудник .
- Сразу после церемонии открытия проект атаковали российские бот-сети, распространяя теории заговора о «кислотных дождях» и личной жизни гендиректора .
- Протесты стали настолько массовыми, что правительство Сербии было вынуждено закрыть проект .
- Гендиректор признался Перлрот: «Я был готов к атаке-вымогателю на $100 млн, но не к дезинформационной атаке на $2 млрд» .
🤝 Уроки Украины и государственно-частное партнёрство 37:35
Несмотря на мрачные прогнозы, война в Украине дала повод для оптимизма. По словам Перлрот, Россия не смогла провести ни одной по-настоящему разрушительной кибератаки, которая парализовала бы страну надолго . Это стало возможным благодаря беспрецедентному сотрудничеству:
- Cloudflare, Google и AWS помогли отразить массированные DDoS-атаки в течение 24 часов .
- Starlink обеспечил живучесть военной связи и интернета .
- Западные спецслужбы обнаружили и деактивировали вредоносное ПО «Pipe Dream» (цифровой «швейцарский нож» для взлома любой критической инфраструктуры) ещё на стадии разработки .
Перлрот подчеркивает, что 80% критической инфраструктуры США находится в частных руках . Успех обороны зависит исключительно от доверия и обмена разведданными между государством и бизнесом. В этом контексте она похвалила Anthropic за отказ от военного использования своих моделей в целях массовой слежки, что создает «рыночное давление» в пользу этики .
📰 Кризис медиа: «Правда под пейволлом, ложь бесплатна» 43:24
Завершая дискуссию, Перлрот выразила глубокую обеспокоенность будущим журналистики в условиях слияний медиа-активов и их перехода под контроль миллиардеров (таких как Джефф Безос или Ларри Эллисон) . Она отметила, что в The New York Times существовала жесткая стена между редакцией и рекламодателями (вспомнив случай, когда газета опубликовала критическую статью про Диснейленд, несмотря на то что Disney был их крупнейшим рекламодателем) .
Сегодня же ситуация меняется: влияние владельцев на редакционную политику и сокращение бюджетов делают качественную информацию элитарным продуктом. По мнению эксперта, пока правда скрыта за платным доступом, а дезинформация распространяется бесплатно и мгновенно, общество остается крайне уязвимым .
