В условиях стремительного развития искусственного интеллекта вопросы кибербезопасности выходят на новый уровень: от защиты отдельных узлов до управления целыми флотами автономных агентов. В рамках встречи руководителей Cisco и OpenAI обсуждаются стратегии использования ИИ для автоматизации защиты, концепция «автоматического ревью» действий моделей и будущее, в котором отсутствие навыков работы с ИИ-агентами станет главным фактором уязвимости предприятия.
🛡️ Защитные барьеры как катализатор скорости 1:23
Существует устойчивое мнение, что меры безопасности (guardrails) замедляют рабочие процессы, однако в эпоху ИИ-агентов этот подход пересматривается. По мнению Дрю Хинтца, надежные защитные барьеры не тормозят, а, напротив, увеличивают скорость работы систем. Если компания может полностью доверять установленным ограничениям, она готова предоставить агентам больше полномочий — от доступа к широкому спектру корпоративных данных до возможности блокировать скомпрометированные устройства в реальном времени .
Дрю Хинтц выделяет две основные категории защитных механизмов:
- Недетерминированные барьеры: Встраиваются непосредственно в модель. Они обеспечивают соответствие ИИ политике безопасности компании и общим этическим нормам. Это необходимо, чтобы агенты не проявляли излишнего рвения: например, встретив блокировку доступа к хосту, ИИ не должен пытаться самостоятельно найти обходной путь через другие узлы сети, как это мог бы сделать неопытный или злонамеренный программист .
- Детерминированные барьеры: Традиционные средства защиты, такие как контроль сетевого трафика (egress control) и песочницы (sandboxing). Они ограничивают «радиус поражения» (blast radius): если агент работает с кодом в одной директории, детерминированные правила не позволят ему выйти за ее пределы или получить права администратора без необходимости .
По словам Энтони Грико, такой комбинированный подход позволяет Cisco быстрее внедрять ИИ-технологии во внутренние процессы. При этом модели с повышенным риском (например, специализированные кибер-модели без встроенных барьеров) изолируются от общего доступа сотрудников .
🔄 Трансформация роли ИБ-отдела: от контроля к исправлению 7:39
Традиционная модель, в которой отдел информационной безопасности (ИБ) только указывает на проблемы и требует их решения, признана устаревшей. Энтони Грико подчеркивает, что современные ИБ-инженеры в Cisco становятся полноценными партнерами разработчиков, участвуя в непосредственном исправлении уязвимостей .
Благодаря интеграции Codex, процесс выглядит следующим образом:
- Система обнаруживает уязвимость.
- ИИ генерирует предлагаемый патч (исправление) .
- ИБ-команда отправляет готовое решение разработчикам для слияния (merge) с основным кодом.
- Настраивается автоматическое регрессионное тестирование, чтобы исключить повторное появление той же ошибки при будущих коммитах .
⚔️ Экономика кибервойны: на чьей стороне преимущество? 8:53
Вопрос о том, снижает ли ИИ стоимость атаки сильнее, чем стоимость защиты, остается открытым. Дрю Хинтц сохраняет оптимизм, указывая на то, что защитники выбирают «место боя». Злоумышленники вынуждены действовать на чужой территории, где ИБ-агенты годами укрепляли архитектуру и harden-или (усиливали) системы . По мнению Хинтца, защитнику достаточно заметить всего одну ошибку нападающего, чтобы нейтрализовать угрозу.
Энтони Грико добавляет, что преимущество получат не те, кто просто имеет доступ к ИИ, а те, кто полностью пересмотрел процессы защиты. В качестве примера он приводит внутреннюю «красную команду» (red team) Cisco:
- Раньше эксперты по взлому использовали ИИ лишь для улучшения коммуникаций или написания фишинговых писем.
- Сегодня Cisco использует полностью автоматизированные «упряжки» (harnesses), которые находят уязвимость, подтверждают ее и предлагают патч без участия человека .
- Результат: за 8 недель с помощью такой системы было просканировано 1,8 миллиарда строк кода .
🤖 Агенты, контролирующие агентов: проблема доверия 12:51
Одной из главных проблем автономных систем является «режим YOLO» (You Only Live Once), когда пользователи отключают подтверждения действий агента из-за их утомительности . Чтобы избежать этого, OpenAI внедрила концепцию Auto Review.
Суть концепции заключается в создании иерархии:
- Исполнительный агент: Выполняет действия (например, запуск тестов или изменение настроек).
- Контролирующий агент: Анализирует контекст действий первого агента и принимает решение — разрешить операцию или нет .
Контролирующие модели обучаются на реальных данных о том, какие действия одобряют или отклоняют живые инженеры. Аналогичный принцип «встроенного скептицизма» применяется и в Cisco: когда один агент находит уязвимость и передает данные другому для подтверждения, второй агент изначально настроен не доверять этим данным слепо .
📅 Прогноз на 3 года: выживание в условиях «лесного пожара» 25:14
Собеседники обсудили сценарии развития ситуации в трехлетней перспективе. Дрю Хинтц считает этот срок «вечностью» для индустрии, но ожидает полной диффузии технологий .
Оптимистичный сценарий (Bull Case): Технологии защиты, которые сегодня доступны только гигантам уровня Cisco и OpenAI, станут массовыми. Малый бизнес и местные органы власти получат «киберэксперта в коробке», что резко укрепит самые слабые звенья глобальной цепи безопасности . Защита станет полностью динамической и будет реагировать на угрозы со скоростью машин .
Пессимистичный сценарий (Bear Case): Дрю Хинтц сравнивает этот процесс с «лесным пожаром». Компании и институты, которые не успеют адаптироваться и внедрить ИИ-агентов, будут уничтожены в ходе масштабных атак с использованием открытых моделей без цензуры . По словам Хинтца, отказ от использования агентов из-за недоверия к ним — парадоксальный путь к снижению собственной безопасности .
Реалистичный сценарий: Собеседники сходятся во мнении, что мир ждет болезненный период трансформации. Неравномерное распределение технологий приведет к серии крупных взломов государственных и корпоративных систем, однако коллективные усилия сообщества по внедрению ИИ-защиты в конечном итоге сделают планету безопаснее .
