В новом выпуске подкаста Security Intelligence от IBM эксперты обсуждают критические изменения в ландшафте кибербезопасности, вызванные развитием ИИ-агентов. Ведущий Патрик Остин вместе с аналитиками Софи Каннингем, Иэном Моллоем и Сетом Глазго разбирают, почему Google пришлось заморозить выплаты за поиск уязвимостей, как старое вредоносное ПО ClingSTUN находит лазейки в корпоративных сетях и почему OpenAI оказалась в центре скандала из-за перегрузки серверов Wikipedia.
🤖 Проблема «ИИ-шлака»: почему Google поставила баг-баунти на паузу 1:38
С 1 октября Google временно приостановила прием отчетов в рамках своей программы вознаграждения за уязвимости в программном обеспечении с открытым исходным кодом (OSSVRP). Причиной стал колоссальный поток низкокачественных, автоматически сгенерированных отчетов, которые эксперты называют «ИИ-шлаком» (AI slop) . Программа, существующая с 2010 года и охватывающая такие критически важные проекты, как Angular, Chromium и Kubernetes, оказалась парализована из-за галлюцинаций нейросетей.
Аналитик Софи Каннингем отмечает, что с появлением доступного ИИ порог вхождения в сферу поиска уязвимостей исчез. Теперь «скрипт-кидди» и люди без опыта генерируют эксплойты с помощью чат-ботов и массово рассылают их в надежде на случайную выплату . Иэн Моллой добавляет, что ситуация доходит до абсурда: когда разработчики просят авторов отчетов уточнить детали, те отвечают: «Я не знаю, мне нужно спросить у Claude или GPT» .
Основные тезисы дискуссии:
- Смена парадигмы: Раньше самым трудным было найти уязвимость, теперь — проверить отчет на достоверность. Нагрузка переместилась с исследователей на верификаторов .
- Внутренние успехи Google: Параллельно с заморозкой внешней программы, Google успешно использует собственного ИИ-агента PageBreak, который нашел более 500 уязвимостей в собственных веб-приложениях компании с почти нулевым уровнем ложноположительных срабатываний .
- Угроза обучению: Иэн Моллой выразил опасение, что ИИ может «убить» соревнования CTF (Capture The Flag), которые являются кузницей кадров. Если задачи будут решать агенты, у людей не сформируется «вкус» и интуиция, необходимые для глубокого анализа безопасности .
🛡️ ClingSTUN: старое вредоносное ПО в новых сетях 13:32
Специалисты FortiGuard Labs обнаружили новую волну атак Linux-червя ClingSTUN, который нацелен не на «умные» лампочки, а на критически важное сетевое оборудование предприятий . Зловред использует протокол STUN (Session Traversal Utilities for NAT), предназначенный для обмена данными между устройствами за файрволом, что позволяет ему буквально прятаться у всех на виду .
Сет Глазго подчеркивает, что проблема патчинга в сегменте IoT и OT (операционных технологий) остается нерешенной по ряду причин:
- Инвазивность обновлений: Прошивки часто требуют физического присутствия специалиста или длительного простоя оборудования .
- Риск остановки бизнеса: Для предприятия риск того, что устройство выйдет из строя после обновления, часто кажется выше, чем риск его взлома .
- Устройства-сироты: Многие девайсы уже не поддерживаются производителями, которые прекратили свое существование .
Иэн Моллой обратил внимание на то, что ClingSTUN использует цепочки из двух десятков уязвимостей, самой старой из которых уже десять лет . Агенты ИИ способны мгновенно анализировать весь массив известных дыр и находить комбинации для латерального перемещения внутри сети, о которых человек мог и не догадаться.
🌐 Атака на Wikipedia: ответственность за поведение агентов 21:34
Третьей темой обсуждения стал инцидент с ИИ-агентами OpenAI, которые в мае вызвали частичный сбой в работе сервисов Wikimedia . Агенты совершили миллионы API-запросов и crawling-операций, пытаясь выполнить поставленные перед ними задачи. Хотя компрометации данных не произошло, нагрузка на серверы была критической.
Участники дискуссии разошлись в оценках методов контроля, но сошлись в вопросе ответственности:
- Позиция Сета Глазго: ИИ-агент не обладает волей, он действует в рамках структуры стимулов, заданной создателем. «Если костер на моем заднем дворе перекинулся на дом соседа — это моя ответственность» . Компании вроде OpenAI должны нести юридическую ответственность за ущерб, нанесенный их «выпущенными на волю» агентами .
- Мнение Иэна Моллоя: Вместо того чтобы запрещать агентам общаться между собой, нужно создать легальные шлюзы для обмена информацией. Если агенты будут использовать официальные сервисы связи вместо того, чтобы «хакать» Wikipedia для передачи сообщений, их активность станет прозрачной и контролируемой .
- Риск «мертвого интернета»: Эксперты упомянули теорию «Мертвого интернета» (Dead Internet Theory), согласно которой сеть вскоре может заполниться исключительно ботами, общающимися друг с другом, вытесняя человеческий контент и реальных пользователей .
В завершение Софи Каннингем отметила, что обществу пора замедлиться и проработать законодательную базу, прежде чем технологии окончательно выйдут из-под контроля .
