Компания Anthropic, основанная выходцами из OpenAI как «этический и безопасный» противовес лидерам рынка, оказалась перед самым сложным выбором в своей истории. На фоне сообщений об использовании нейросети Claude в реальных военных операциях Пентагон выдвинул компании ультиматум: либо Anthropic отказывается от своих специфических ограничений безопасности в интересах национальной обороны, либо сталкивается с жесткими юридическими и финансовыми последствиями.
🪖 Секретная операция в Каракасе и участие Claude 2:11
Поводом для обострения отношений между стартапом и государством послужили утечки в СМИ о секретном рейде Командования специальных операций США (JSOC). Как утверждают издания Wall Street Journal и Axios, технология Anthropic была использована для подготовки и проведения операции в Каракасе (Венесуэла), целью которой был захват президента Николаса Мадуро .
Технически это стало возможным благодаря партнерству Anthropic с компанией Palantir, которая является крупным оборонным подрядчиком. Нейросеть Claude была интегрирована в систему Maven Smart System, используемую для анализа данных, целеуказания и оперативного планирования в реальном времени .
Ключевые обстоятельства интеграции:
- В 2024 году Anthropic стала первой ИИ-компанией, допущенной к работе в закрытых правительственных сетях .
- Точная роль Claude в операции засекречена, однако сам факт использования ИИ в «летальных операциях» прямо противоречит изначальным принципам компании .
- По данным издания Semaphore, сотрудники Anthropic выразили обеспокоенность использованием их продукта в военном рейде. Руководство Palantir расценило это как нелояльность и передало информацию в Пентагон, что спровоцировало разрыв в отношениях .
⏳ Ультиматум Пентагона: «Перейти Рубикон» за 48 часов 4:08
Реакция Министерства обороны США была жесткой. Официальный представитель ведомства Шон Парнелл подтвердил, что отношения с Anthropic находятся на стадии пересмотра, добавив, что нации нужны партнеры, готовые помогать бойцам «побеждать в любом бою» .
В середине февраля технический директор Пентагона призвал ИИ-компании «перейти Рубикон» — термин, отсылающий к решению Юлия Цезаря начать войну, из которой нет пути назад. Для Anthropic это означает полный отказ от идентичности «безопасность превыше всего» в пользу военных нужд .
Основные требования военных:
- Снятие корпоративных барьеров: Согласно новому документу, подписанному министром обороны Питом Хегсетом в январе, подрядчики ИИ не имеют права накладывать собственные этические ограничения на законное использование технологий правительством .
- Срок исполнения: У компаний было 180 дней на приведение своей политики в соответствие с требованиями Пентагона. Этот срок истекает в ближайшую пятницу .
- Личная явка: Основатель Anthropic Дарио Амодеи был вызван в Пентагон на встречу с Питом Хегсетом. Ведущий Уэс Рот характеризует эту встречу как предложение, «от которого невозможно отказаться» .
🗡️ Три «орудия» против непокорного стартапа 7:00
Если Anthropic решит настоять на своих этических принципах, у правительства США есть рычаги давления, способные парализовать деятельность компании. Ведущий Уэс Рот выделяет три основных инструмента :
- Закон о оборонном производстве (Defense Production Act): Правовая норма времен Холодной войны, позволяющая президенту принуждать частные компании к выполнению оборонных контрактов. Компанию могут юридически обязать передать код или предоставить услуги вопреки воле руководства .
- Статус «риска для цепочки поставок»: Внесение в такой список фактически означает «черную метку». Любая компания, работающая с государством, будет вынуждена прекратить сотрудничество с Anthropic, превращая стартап в изгоя на рынке .
- Финансовые санкции: Аннулирование текущих контрактов (включая сделку на 200 млн долларов) и требование возврата средств. Хотя при текущей оценке Anthropic это кажется меньшим из зол, репутационный ущерб будет колоссальным .
📉 RSP 3.0: «Превентивная капитуляция» Anthropic? 9:12
В тот же день, когда Дарио Амодеи встречался с руководством Пентагона, Anthropic опубликовала обновленную версию своей Политики ответственного масштабирования (Responsible Scaling Policy 3.0). Ключевое изменение — исключение пункта о категорической остановке обучения моделей, если безопасность не гарантирована .
Новая политика вводит «двойное условие» для возможной паузы в развитии, которое критики уже называют лазейкой для бесконтрольного роста:
- Anthropic должна быть безусловным лидером гонки (если конкуренты вырываются вперед, компания не будет останавливаться) .
- Риск катастрофы должен быть признан «материальным» .
По словам главного научного сотрудника Джареда Каплана, одностороннее замедление не поможет человечеству, если конкуренты будут продолжать разработки без ограничений . По мнению Криса Пейнтера из компании Meter, это свидетельствует о переходе Anthropic в режим «сортировки раненых» (triage mode): методы оценки рисков просто не поспевают за темпами развития способностей моделей .
💰 Бизнес на кону: 380 миллиардов и государственная опека 17:11
Несмотря на этический кризис, рыночная стоимость Anthropic продолжает расти. По утверждению автора видео, инвесторы с Уолл-стрит оценивают компанию в 380 млрд долларов, учитывая десятикратный ежегодный рост выручки . (Примечание: цифра в 380 млрд может быть оценочным суждением о потенциале или гиперболой автора, рыночные оценки Anthropic в 2024 году фиксировались на уровне десятков миллиардов).
Уэс Рот отмечает, что для компании это вопрос не только денег, но и выживания в конкурентной среде:
- Доступ к данным: Работа с правительством открывает уникальные датасеты, недоступные конкурентам .
- Защита интересов: Компании вроде Google или нефтяных гигантов десятилетиями пользуются статусом «национального интереса» США, что дает им привилегии и защиту на мировом уровне .
- Скрытая национализация: По мнению ведущего, США не национализируют ИИ-лаборатории официально, но фактически «встраивают их в систему», делая их инструментами государственной политики через негласные каналы связи .
Развязка этой драмы ожидается в пятницу. Anthropic пытается удержать свои «красные линии» — запрет на полностью автономное оружие и на внутреннюю слежку за гражданами США . Однако, как резюмирует автор видео, главный вопрос не в том, хочет ли компания сохранить эти принципы, а в том, позволят ли ей это сделать люди с армией за спиной .
