Шпионы и алгоритмы: как первый CTO в истории ЦРУ внедряет ИИ

a16z (Andreessen Horowitz) 5,8 тыс. 51 мин 5 мин 11.03.2024
Главное

Разведывательное сообщество США переживает самую масштабную трансформацию за последние десятилетия. В условиях «соперничества великих держав» Центральное разведывательное управление (ЦРУ) не просто внедряет новые инструменты, но и полностью переосмысляет свою роль, создав пост технического директора (CTO) и открывшись для диалога с Кремниевой долиной.

🕵️ Новая архитектура ЦРУ: от борьбы с терроризмом к технологическому доминированию 2:28

С приходом Уильяма Бернса на пост директора ЦРУ в начале текущей администрации агентство провело глубокий стратегический аудит своей деятельности . Основным выводом стал необходимый разворот: если последние двадцать лет фокус был сосредоточен на борьбе с терроризмом (CT), то теперь приоритетом стала «конкуренция великих держав» и технологии как отдельная сфера угроз и возможностей .

Для реализации этой стратегии были предприняты три ключевых шага:

Мулчандани подчеркивает, что ЦРУ всегда было технологической организацией, но раньше эти компетенции были скрытыми . Теперь же агентство вынуждено активно взаимодействовать с внешним миром, участвовать в публичных дискуссиях и подкастах, что является радикальным культурным сдвигом для кадровых разведчиков .

🤖 ИИ в разведке: баланс наступления и обороны 5:17

Мартин Касадо, имеющий опыт работы в разведсообществе более 20 лет назад, отмечает, что ИИ не является чем-то принципиально новым для шпионажа: работа с сигнатурным анализом, скрытой связью и большими данными всегда была неразрывно связана с алгоритмами . Однако современный генеративный ИИ ставит новые вопросы.

Позиция Мартина Касадо по поводу дипфейков:

По мнению Касадо, возможность «подделать любого» с помощью голоса и видео — это серьезная проблема, но она имеет обратную сторону. Он утверждает, что если контент сгенерирован компьютером, его относительно легко «отпечатать» и идентифицировать . Касадо считает, что развитые игроки смогут легко обнаруживать использование ИИ-инструментов оппонентами, что заставит разведки возвращаться к фундаментальным методам — человеческому фактору и классической оперативной работе .

Позиция Нанда Мулчандани по операционной деятельности:

Мулчандани согласен, что в мире «шпион против шпиона» демократизация ИИ подстегнет всех участников гонки. Он подчеркивает, что ЦРУ — это прежде всего агентство человеческой разведки (HUMINT) . Использование ИИ в операциях направлено не на замену офицеров, а на их масштабирование и повышение эффективности «командной игры» на поле боя .

📊 Революция в аналитике: от «вытягивания» к «подталкиванию» данных 9:15

Традиционно работа аналитика строилась по модели «запроса» (pull model): человек придумывал гипотезу и шел в базу данных с запросом, что Мулчандани сравнивает с подводной охотой на одну конкретную рыбу . Современный ИИ меняет эту парадигму на модель «подталкивания» (push model) .

Преимущества и риски новой модели:

Касадо добавляет, что ИИ, в отличие от интернета, не является «асимметричным суперузлом» . Если интернет делал более развитые страны более уязвимыми из-за зависимости от инфраструктуры, то ИИ — это инструмент, который доступен всем и не создает фундаментального дисбаланса между нападением и защитой .

⚠️ Границы возможностей: почему ИИ не заменит человека 13:57

Собеседники сошлись во мнении, что полной автоматизации аналитики в стиле «ввел запрос — ушел пить кофе — получил арестованного врага» в ближайшее время не случится .

Аргументы против полной автономии ИИ:

  1. Накопление ошибок: Касадо объясняет, что LLM (большие языковые модели) хорошо работают, когда вопрос находится внутри тренировочного набора данных. Как только система сталкивается с чем-то новым («вне распределения»), ошибка начинает расти экспоненциально .
  2. Отсутствие «агентности»: ИИ пока не способен на самостоятельные последовательные действия без контроля человека, так как не может верифицировать собственные галлюцинации в критических задачах .
  3. Творческий акт: По мнению Мулчандани, люди уникальны тем, что создают новую информацию из старой, в то время как ИИ лишь рутинизирует существующую .

Касадо приводит аналогию: LLM сегодня похожа на «старожила» агентства с 40-летним стажем. Он отлично знает, как всё делалось в прошлом, и даст стандартный совет, но он не способен предложить революционно новое решение . Аналитик нужен именно для того, чтобы принять решение: следовать ли протоколу или пойти по пути «длинного хвоста» распределения, где обычно и скрываются самые важные разведывательные данные .

🤝 ЦРУ как заказчик: стратегия «Сначала коммерческое» (Commercial First) 33:54

Мулчандани признает, что закупки технологий в правительстве — это «гигантская проблема» . Раньше разведка стремилась создавать всё уникальное внутри своих стен, опасаясь использовать общедоступные инструменты. Теперь подход меняется.

Основные тезисы новой закупочной политики:

🇺🇸 Американский динамизм: роль государства в гонке вычислений 35:15

Касадо выражает опасение, что США могут изменить свою «доктрину лидерства» . В 1990-е годы правительство активно инвестировало в суперкомпьютерные центры (в Иллинойсе, Корнелле), создавая целые научные дисциплины . Сегодня же основные вычислительные мощности сосредоточены в руках нескольких корпораций (Microsoft, OpenAI), а университеты и государственные лаборатории остаются не у дел .

По мнению Касадо, частные рынки не решат всех проблем национальной обороны. Он призывает к восстановлению полноценного государственно-частного партнерства, где правительство не просто «покупает услуги», а активно инвестирует в кадры и фундаментальные технологии, как это было во времена ядерной программы .

Нанд Мулчандани добавляет, что сейчас наступает эпоха регулирования через «исполнительные указы» (Executive Orders), так как законодатели не успевают за темпами развития ИИ . Это итеративный процесс: индустрия движется вперед, регуляторы учатся и задают вопросы, а инвесторы должны иметь свое место за столом переговоров, чтобы сохранить «американский динамизм» .

💬 Цитаты

«Мы — организация человеческой разведки. Но теперь мы можем заставить любого звучать как любой и выглядеть как любой.»

Нанд Мулчандани 00:04

«ИИ — это не асимметричный суперузел, в отличие от интернета. Он доступен всем и не меняет баланс сил в пользу нападающего.»

Мартин Касадо 12:13

«У ЦРУ нет своего магазина приложений App Store для шпионского ПО, но мы работаем над тем, чтобы стать лучшим покупателем технологий.»

Нанд Мулчандани 40:20
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
HUMINT
Human Intelligence — разведка, основанная на работе с людьми (агентами, информаторами).
LLM
Large Language Model — большая языковая модель, тип ИИ, способный генерировать и анализировать текст.
SDN
Software Defined Networking — технология, позволяющая управлять сетью через программное обеспечение, а не через настройку отдельных устройств.
ATO
Authority to Operate — официальное разрешение на эксплуатацию IT-системы в защищенном контуре правительства США.
📊 Цифры
🗓 Хронология
  1. 1947 Основание Центрального разведывательного управления США.
  2. 2021 Уильям Бернс становится директором ЦРУ и инициирует технологическую реформу.
  3. Январь 2024 Проведение саммита American Dynamism, где состоялось данное интервью.
⚖️ Другая сторона
Технологии и IT Nand Mulchandani Martin Casado CIA LLM American Dynamism