В мире искусственного интеллекта произошло событие, которое многие эксперты называют «точкой невозврата» в отношениях между Кремниевой долиной и государственным аппаратом безопасности США. Назначение бывшего директора Агентства национальной безопасности (АНБ) Пола Накасоне в совет директоров OpenAI ознаменовало официальное слияние интересов крупнейшего разработчика ИИ и американского разведывательного сообщества.
🛡️ От разведки к ИИ: Пол Накасоне присоединяется к OpenAI 0:14
Бывший глава АНБ Пол Накасоне, возглавлявший ведомство с 2018 по 2023 год, вошел в состав совета директоров OpenAI и стал участником комитета по безопасности и защите . Ведущий канала Уэс Рот отмечает, что официальной целью назначения является улучшение роли ИИ в кибербезопасности — быстрое обнаружение угроз и реагирование на них .
В OpenAI подчеркивают, что приоритетными задачами Накасоне станут рекомендации по защите критической инфраструктуры компании:
- Охрана обучающих суперкомпьютеров и вычислительных кластеров .
- Защита «весов» моделей (модельных весов) — конфиденциальных параметров, которые, по замечанию автора видео, можно теоретически вынести из здания на обычной флешке .
- Обеспечение сохранности данных клиентов.
Это назначение произошло на фоне критики культуры безопасности внутри OpenAI, что вызвало ироничную реакцию Илона Маска, который, по мнению Уэса Рота, с сарказмом прокомментировал готовность OpenAI предоставить спецслужбам доступ к частным смартфонам пользователей .
👤 Реакция Эдварда Сноудена и вопросы приватности 1:45
Бывший сотрудник ЦРУ и АНБ Эдвард Сноуден отреагировал на это назначение крайне резко, назвав его «маски долой» . По словам Сноудена, нет иных причин назначать директора АНБ в совет директоров ИИ-компании, кроме как для создания системы тотального контроля. Он охарактеризовал это как «преднамеренное предательство прав каждого человека на Земле» и призвал никогда не доверять продуктам OpenAI, включая ChatGPT .
В статье Сноудена от 2021 года, на которую ссылается ведущий, подчеркивается риск превращения глобальных технологий в машину массовой слежки, создающую «вечные записи нашей частной жизни» . Уэс Рот добавляет контекст от сообщества (Community Notes), припоминая, что при Накасоне АНБ расширило программы слежки за гражданами США .
📈 Гонка вооружений и «реализм AGI» Леопольда Ашенбреннера 3:06
Ведущий связывает текущие события с манифестом «Situational Awareness» Леопольда Ашенбреннера, бывшего сотрудника команды супервыравнивания OpenAI. Ашенбреннер утверждает, что к 2027–2028 годам прогресс ИИ достигнет точки, когда алгоритмы смогут самостоятельно проводить ИИ-исследования .
Основные тезисы Ашенбреннера, которые приводит автор видео:
- Неизбежность самосовершенствования: Пример с исследованием Nvidia «Eureka» показывает, что GPT-4 уже пишет код для обучения роботов лучше, чем люди, находя инновационные решения .
- Угроза шпионажа: Ашенбреннер считает, что без жесткого государственного контроля Китай сможет легко украсть алгоритмические прорывы и веса моделей .
- Национализация ИИ: По мнению Ашенбреннера, супер интеллект станет решающим фактором национальной мощи, и США не могут позволить этой технологии «расползтись» по странам-изгоям .
Уэс Рот отмечает, что Ашенбреннер критикует как «акселерационистов», стремящихся к бесконтрольному развитию, так и «думеров» (предвестников апокалипсиса), чьи предложения он считает наивными и оторванными от реальности авторитарных угроз .
💰 Коммерческая трансформация OpenAI и выход на IPO 11:39
Параллельно с интеграцией в систему госбезопасности OpenAI рассматривает изменение своей юридической структуры. Сэм Альтман подтвердил, что компания может стать «общественно полезной корпорацией» (benefit corporation), аналогично конкурентам Anthropic и xAI .
По мнению экспертов, на которых ссылается ведущий, этот шаг преследует две цели:
- Упрощение сложной структуры, состоящей из некоммерческого и коммерческого подразделений.
- Подготовка к IPO (первичному публичному размещению акций). Это позволит OpenAI торговаться на бирже наравне с Nvidia, Microsoft и Apple, привлекая колоссальные объемы капитала .
🎖️ Военное использование и облачные секреты Пентагона 12:34
Автор видео напоминает, что в начале 2024 года OpenAI незаметно удалила из условий использования пункт о запрете на использование своих технологий в военных целях . Хотя компания заявляет, что по-прежнему не допускает создания оружия и причинения физического вреда, она активно сотрудничает с Министерством обороны США.
Microsoft уже запустила GPT-4 в своем «секретном облаке» для Пентагона . По данным портала defense-poop.com, Департамент обороны использует эти мощности для:
- Обработки огромных массивов данных.
- Кибербезопасности.
- Тонкой настройки (fine-tuning) моделей под специфические военные задачи .
🌏 Глобальный контекст: «Суверенный ИИ» 9:44
На фоне доминирования американских технологий другие страны стремятся создать «Суверенный ИИ». Уэс Рот цитирует издание The Information, указывая, что Индия, Южная Корея, Франция и Германия пытаются избежать зависимости от разработок США и Китая . Глава Nvidia Дженсен Хуанг поддерживает эту идею, утверждая, что каждой нации необходим ИИ, отражающий её культуру и экономические интересы .
Завершая разбор, Уэс Рот подчеркивает, что выбор стоит между двумя полярными позициями:
- Позиция Ашенбреннера: Необходимость союза ИИ-лабораторий и правительства для победы в технологической войне с авторитарными режимами.
- Позиция Сноудена: Опасение, что это приведет к созданию неуправляемого аппарата слежки, где технологии ИИ будут питаться «океаном данных», собранных спецслужбами за последние 20 лет .
