# Искусственный интеллект в кибербезопасности: стратегия защиты Amazon Источник: https://www.youtube.com/watch?v=t0mnS87brAc Канал: Eye on AI Опубликовано: 22.05.2025 --- В условиях стремительного развития генеративного ИИ вопросы кибербезопасности выходят на новый уровень: от защиты данных при обучении моделей до противодействия автоматизированным атакам. Стив Шмидт, директор по безопасности (CSO) Amazon с 18-летним стажем и бывший сотрудник ФБР, в интервью каналу Eye on AI подробно рассказывает, как технологический гигант использует «умные» ловушки MadPot, внедряет ИИ-агентов для рутинных задач и выстраивает стратегию защиты в эпоху нейросетей. ## 🕸️ Проект MadPot: ИИ на службе обнаружения угроз [[JUMP:04:36]] Одной из самых масштабных систем защиты Amazon является MadPot — глобальная сеть сенсоров-ловушек (honeypots), состоящая из десятков тысяч узлов по всему миру. Эти узлы имитируют уязвимые системы клиентов, чтобы привлечь злоумышленников и собрать данные об их методах работы [03:17]. По словам Стива Шмидта, статистика MadPot поражает: * **90 секунд** — столько времени проходит с момента запуска новой ловушки до первого обнаружения её злоумышленником [03:56]. * **Менее 3 минут** — интервал между обнаружением системы и первой попыткой её эксплуатации [04:24]. Amazon использует собственные базовые модели ИИ для обработки колоссальных объемов логов, поступающих от этой сети. ИИ превращает «сырые» данные в оперативные разведданные: определяет, кто атакует, какие инструменты использует и на каких клиентах фокусируется [04:50]. Шмидт подчеркивает, что ИИ не является панацеей, но он избавляет инженеров по безопасности от огромного количества рутинной работы, выдавая готовые аналитические отчеты для принятия решений [05:17]. Эти разведданные напрямую питают сервис Amazon Guard Duty, который автоматически уведомляет клиентов AWS о подозрительной активности и дает рекомендации по защите. ## 🛡️ «Активная оборона» и стратегия дезинформации [[JUMP:16:22]] Шмидт раскрыл подробности программы под названием **Active Defense** («Активная оборона»). Если система обнаруживает злоумышленников, сканирующих инфраструктуру Amazon в поисках открытых S3-корзин с данными, компания начинает намеренно вводить их в заблуждение [16:22]. * **Искажение реальности:** Сканеры получают ложные ответы о том, какие бакеты открыты, а какие нет [16:36]. * **Эффективность:** По оценкам Шмидта, такая тактика «лжи в ответ» отсекает от 99,96% до 99,97% всех попыток сканирования S3 на просторах интернета [16:51]. * **Блокировка доступа:** Когда злоумышленник пытается получить доступ к якобы «открытому» бакету, соединение просто не срабатывает [17:05]. ## 🤖 Роль ИИ-агентов: от триажа до автономии [[JUMP:21:02]] Обсуждая будущее ИИ в безопасности, Шмидт коснулся темы автономных агентов. Он отметил, что текущий уровень надежности агентов для чувствительных действий (например, закрытия дыр в безопасности) составляет около 80%, хотя недавно он был на уровне 65% [20:35]. Процесс внедрения агентов будет постепенным: 1. **Первичная сортировка (Triage):** Агенты уже сейчас могут эффективно обрабатывать шквал сигналов тревоги, отделяя важные инциденты от ложноположительных [23:45]. 2. **Двойная проверка:** В ближайшие пару лет мы увидим схему «ИИ предлагает — человек одобряет» [21:57]. 3. **Автономия на малых рисках:** Если риск ошибки низок и её можно легко отменить, агентам будут давать больше свободы [22:12]. Шмидт категорически не верит, что в ближайшие 5–10 лет агенты будут работать полностью автономно в критической инфраструктуре калибра Amazon — последствия ошибки слишком высоки [24:23]. Однако для малого бизнеса ИИ-агенты станут спасением, заменяя целый отдел безопасности, который предприниматель не может себе позволить [25:01]. ## 🚩 Пять критических вопросов безопасности Generative AI [[JUMP:27:39]] CSO Amazon выделил ключевые аспекты, которые любая компания должна проверить перед внедрением генеративного ИИ: 1. **Где находятся ваши данные?** Как они защищены в процессе обучения модели и при обработке запросов? [27:39]. 2. **Что происходит с вашим запросом (Prompts)?** Использует ли провайдер ваши конфиденциальные вопросы для дальнейшего обучения модели? Шмидт предупреждает: из самого вопроса пользователя можно выудить много секретной информации компании [28:47]. 3. **Достаточно ли точен результат?** Если LLM генерирует код, следует убедиться, что он не содержит уязвимостей и соответствует стандартам компании [29:25]. 4. **Соблюдаются ли основы безопасности?** Громкие темы вроде «инъекций промптов» (prompt injection) важны, но большинство утечек случается из-за отсутствия банального логирования и аутентификации [30:20]. 5. **Есть ли двойная проверка?** В Amazon весь код, сгенерированный ИИ (например, через Amazon Q Developer), сначала запускается в изолированной «песочнице» (sandbox) и проходит проверку на безопасность [36:36]. ## 👾 Угроза цепочке поставок и «отравление» моделей [[JUMP:42:39]] Amazon инвестировал более 5 миллионов долларов в инициативу **Nova Trusted AI Challenge**, где команды из 10 университетов соревнуются в атаке и защите ИИ-моделей [42:39]. Пять команд создают защиты, другие пять — пытаются их взломать [43:57]. Особую опасность Шмидт видит в атаках на цепочку поставок (supply chain attacks). * **Суть угрозы:** Злоумышленник пытается «отравить» обучающие данные для кодинговых моделей, чтобы те предлагали разработчикам код со скрытыми уязвимостями (backdoors) [43:31]. * **Скрытность:** Обычный взлом довольно шумный и вызывает срабатывание сигнализации. Однако если внедрить вредоносный код на этапе написания программы, он будет выглядеть как нормальный и останется незамеченным годами [47:30]. * **Примеры из истории:** Шмидт напомнил о случаях изменения криптографических функций, которые открывались при получении «магического пакета» данных извне [48:09]. ## 🇨🇳 Китайские модели и государственные хакеры [[JUMP:49:12]] На вопрос о доверии к дешевым и эффективным моделям с открытым кодом из Китая Шмидт ответил дипломатично. Хотя Amazon предлагает такие модели через сервис Bedrock для клиентов, которым важна дешевизна [50:17], внутри компании Amazon к ним относятся крайне осторожно, исходя из строгих требований к безопасности [50:29]. Что касается количества высококвалифицированных атакующих (state actors), Шмидт полагает, что их немного. На вершине пирамиды находятся лишь сотни людей по всему миру, обладающих достаточными навыками для сложного манипулирования ИИ-моделями [51:50]. Тем не менее, он признает, что «порог входа» в киберпреступность снижается за счет использования ИИ менее квалифицированными кадрами [10:01].