В индустрии кибербезопасности наступил переломный момент: ведущие игроки рынка искусственного интеллекта и защиты данных синхронно переходят от конкуренции к модели «коллективной обороны». В новом выпуске подкаста Security Intelligence от IBM эксперты обсуждают, станет ли масштабное внедрение ИИ для поиска уязвимостей аналогом «проблемы Y2K», как управлять правами доступа для автономных агентов и почему одна простая ошибка в коде Linux оставалась незамеченной девять лет.
В обсуждении приняли участие:
- Мэтт Косински — ведущий подкаста.
- Дастин «EvilMog» Хейвуд — исполнительный управляющий хакер X-Force.
- Кимми Фаррингтон — инженер по обнаружению угроз.
- Омари Джонс — стратегический аналитик угроз.
🛡️ Коллективный ИИ: «Момент Y2K» для кибербезопасности 1:06
Современный ландшафт ИИ-безопасности меняется стремительно. За одну неделю произошли три знаковых события: Anthropic запустила бета-тестирование Claude Security для сканирования кодовых баз , OpenAI представила план из пяти пунктов по «демократизации» киберзащиты на базе ИИ , а CrowdStrike анонсировала проект QuiltWorks — коалицию с участием IBM и OpenAI для автоматического устранения уязвимостей .
Точка зрения участников:
- Кимми Фаррингтон считает термин «момент Y2K» (проблема 2000 года) уместным в том смысле, что руководство компаний наконец-то «проснулось» . По её словам, руководители высшего звена осознали потенциал ИИ, но одновременно с этим ужаснулись масштабам возможных атак .
- Омари Джонс поддерживает философию коалиций, утверждая, что такие объединения, как QuiltWorks, позволяют мыслить масштабами всей экосистемы, а не только прибылью отдельной компании . Это помогает минимизировать ущерб для клиентов, использующих услуги разных провайдеров (например, IBM и AWS одновременно).
- Дастин Хейвуд (EvilMog) настроен более скептично. По его мнению, главная проблема не в технологиях, а в кадрах. Он утверждает, что компании тратят огромные средства на токены ИИ для поиска уязвимостей, но при этом проводят сокращения персонала . В итоге уязвимости обнаруживаются быстрее, чем люди успевают их исправлять .
Открытые или закрытые модели?
Обсуждая подходы разных компаний (закрытый доступ Anthropic против более открытого подхода OpenAI), EvilMog отметил, что «часики тикают». По его оценке, открытые модели (open-weights) догонят по способностям проприетарные системы вроде Claude или GPT-4 всего за несколько сотен дней .
🤖 Проблема идентификации ИИ-агентов 10:54
Традиционные модели управления идентификацией и доступом (IAM) не рассчитаны на автономных агентов. Агенты не являются людьми, но и не могут считаться обычными системными процессами. Коалиция по безопасности ИИ (CoSAI) предложила новый фреймворк, основанный на нескольких принципах:
- Уникальные учетные записи для каждого агента (никаких общих доступов) .
- Отсутствие постоянных привилегий (Zero Standing Privileges).
- Прослеживаемая цепочка полномочий при действии от имени человека.
Аналитика рисков:
- Омари Джонс указывает на проблему «атрибуции и ответственности». Если ИИ-агент запустил вредоносный ворклоу или сломал базу данных, компании часто не могут отследить, кто именно его инициировал и какой разработчик стоял за триггером, из-за плохой системы логирования токенов .
- Кимми Фаррингтон сравнивает ИИ с «самой большой инсайдерской угрозой» . Она настаивает, что доступ агента должен быть крайне краткосрочным и строго ограниченным конкретной задачей: выдали токен, агент выполнил задачу, токен аннулирован .
- EvilMog и Кимми видят решение в развитии концепции «Zero Trust с дополнительными шагами» . Кимми даже предложила использовать блокчейн-реестр для фиксации всех действий агентов .
📑 Copy Fail: Уязвимость Linux длиной в десятилетие 22:26
Финальной темой стал разбор критической уязвимости в ядре Linux — CVE-2024-31431, получившей название Copy Fail. Ошибка, обнаруженная сканером Xint Code, позволяет обычному пользователю получить права root на большинстве дистрибутивов с помощью простого скрипта на Python .
Ключевые факты об уязвимости :
- Первый проблемный код был внесен еще в 2011 году.
- Ошибка стала эксплуатируемой в 2017 году после оптимизации уровня AF_ALG.
- Уязвимость позволяет перезаписать четыре байта в кэше страниц.
- Эксплуатация происходит только в памяти и не оставляет следов для форензики (криминалистического анализа) .
EvilMog назвал этот баг «прекрасным» с точки зрения хакера: эксплойт размером всего 732 байта позволяет захватить контроль над контейнерными системами или общими серверами без использования условий гонки (race conditions) .
Омари Джонс признался, что после этой новости решил на время отключить свои домашние Linux-системы от сети до выхода всех патчей . Однако EvilMog резюмировал, что главная защита — это не автоматика, а усиление исследовательских групп. По его словам, такие баги невозможно найти полностью автоматически, для этого нужны «наступательные исследователи» .
