В условиях стремительного развития генеративного ИИ киберпреступники нашли новый способ монетизации атак: им больше не нужны ваши данные, им нужны ваши вычислительные мощности. Эксперты подразделения IBM X-Force в новом выпуске подкаста Security Intelligence обсуждают феномен «LLMjacking», новые методы симуляции атак и радикальные предложения по ускорению патчинга уязвимостей.
💸 LLMjacking: когда счет за ИИ становится катастрофой 1:20
Традиционно хакеры стремились украсть конфиденциальную информацию, но с появлением дорогих в эксплуатации больших языковых моделей (LLM) приоритеты сместились. Ведущий Мэтт Казински (Matt Kazinski) вводит термин «LLMjacking» — это кража ключей API и учетных данных для доступа к облачным ИИ-инструментам организации .
Главная особенность этого типа атак заключается в том, что злоумышленники используют чужие ресурсы для своих целей: проведения исследований, разработки вредоносного ПО или даже майнинга криптовалют на GPU-мощностях, выделенных под ИИ. Все расходы при этом ложатся на владельца скомпрометированного ключа.
Шокирующий пример из практики:
- Разработчик мексиканского стартапа поделился историей, в которой хакеры украли его ключ Gemini .
- За 48 часов злоумышленники «накрутили» счет на сумму $82 000.
- Для сравнения: обычные ежемесячные расходы компании на этот API составляли всего $180 .
Эрбанд Марина (Erband Marina) отмечает, что это закономерная эволюция взломов. В начале 2000-х ресурсы захватывали для саботажа, позже — для майнинга крипты, а теперь — для использования ИИ-моделей «бесплатно» . По мнению эксперта, опасность не только в деньгах, но и в том, что хакеры используют эти мощности для создания цифрового «оружия» .
Мишель Альварес (Michelle Alvarez) сравнивает ключи API с «фамильными драгоценностями» и подчеркивает, что к ним нужно относиться так же бережно, как к паролям администратора . Она указывает на критическую проблему: текущие защитные барьеры и лимиты расходов часто срабатывают слишком поздно, когда основной ущерб уже нанесен .
⚔️ Симуляция угроз: ИИ против ИИ 12:24
Патрик Фаселл (Patrick Facell) анализирует, как ИИ меняет работу специалистов по кибербезопасности. Хакеры уже используют ИИ для повышения скорости и интенсивности атак, и защитники должны адаптировать свои методы симуляции угроз (Adversary Simulation) .
Основные тезисы Патрика Фаселла:
- Ограниченность текущего подхода: Обсуждение часто сводится только к поиску уязвимостей в коде с помощью ИИ (проект Glasswing), но хакеры используют нейросети для повышения эффективности на всех этапах цепочки атаки .
- Риски автономности: По мнению Патрика, нельзя давать ИИ полную свободу действий в сети предприятия. Известны случаи, когда автономные агенты случайно удаляли критически важные данные .
- Framework X-frame: Для системного подхода IBM использует наработки, позволяющие объединить возможности генеративного ИИ с опытом экспертов-людей .
Мишель Альварес добавляет, что в анализе угроз (Threat Intelligence) человек остается незаменимым. ИИ отлично справляется со сбором данных и поиском индикаторов компрометации (IoC), но только аналитик может интерпретировать сигналы и оценить намерения атакующего .
Эрбанд Марина резюмирует: «ИИ хорош настолько, насколько хорош человек за ним» . Он считает, что нейросети идеальны для «низко висящих фруктов» (автоматизации простых задач), но цепочку атаки в целом должен контролировать эксперт .
⏱️ Патчинг за 72 часа: миф или необходимость? 22:12
Агентство CISA (США) рассматривает возможность ужесточения стандартов исправления уязвимостей для федеральных ведомств . Вместо текущих двух недель предлагается установить срок в 3 дня для критических дыр, которые уже активно эксплуатируются хакерами.
Причины такой спешки:
- В 2018 году хакерам в среднем требовалось 2 года, чтобы начать эксплуатировать найденную уязвимость.
- Сегодня этот срок сократился до менее чем одного дня .
Мишель Альварес сомневается, что фокус на сокращении времени патчинга — это правильный вопрос . Она считает, что вместо погони за нереалистичными сроками (3 дня против 14) нужно уделять больше внимания другим мерам снижения ущерба.
Патрик Фаселл поддерживает эту скептическую позицию. С его точки зрения, патчинг в корпоративной среде — это сложный процесс балансировки ресурсов. Остановка производственных систем для немедленного обновления может нанести бизнесу больше вреда, чем риск взлома . Кроме того, организации зависят от вендоров: если производитель ПО не выпустил патч мгновенно, срок в 3 дня становится бессмысленным .
🛠️ Практические рекомендации экспертов 28:16
В завершение дискуссии участники дали конкретные советы по защите инфраструктуры в эпоху «ускоренных» атак:
- Мишель Альварес: Первоочередная задача — полная видимость активов. Вы не сможете защитить то, о чем не знаете. Определите свои критические активы прямо сейчас .
- Патрик Фаселл: Используйте концепцию «Assumed Breach» (предполагаемый взлом). Работайте исходя из того, что злоумышленник уже в сети. Насколько быстро вы сможете его изолировать?
- Эрбанд Марина: Цитируя Джона Кеннеди, эксперт напоминает: «Лучшее время для ремонта крыши — когда светит солнце» . Это означает, что планирование реагирования на инциденты и гигиена облачных сред должны быть проведены ДО того, как придет счет на 80 тысяч долларов.
Технические рекомендации по защите API-ключей:
- Используйте специализированные менеджеры секретов (Secret Management).
- Никогда не храните ключи в публичных репозиториях GitHub или переменных окружения без шифрования .
- Настраивайте многоуровневую защиту (Defense in Depth), не полагаясь на настройки «по умолчанию» в облаке, которые часто небезопасны .
