# Хелен Тонер: «Слухи о Q* как причине увольнения Сэма Альтмана — полная ложь»

Источник: https://www.youtube.com/watch?v=fmEpVLBzQ1k
Канал: The Cognitive Revolution
Опубликовано: 16.04.2025

---

Хелен Тонер, бывший член совета директоров OpenAI и директор по стратегии Центра безопасности и новых технологий (CSET), в детальном интервью анализирует причины своего ухода из самой известной AI-компании мира, развенчивает мифы о технологических прорывах и предлагает новую концепцию сосуществования с искусственным интеллектом — «буферы адаптации».

## 🏛 OpenAI: Путь в совет директоров и «фактор Q*»
[[JUMP:06:03]]

Хелен Тонер присоединилась к совету директоров OpenAI в 2021 году, имея за плечами опыт работы в сфере AI-политики с 2016 года [07:20]. По её словам, в те годы идея создания сильного искусственного интеллекта (AGI) считалась в профессиональной среде «странной и идущей вразрез с общепринятыми нормами», а OpenAI была одной из немногих структур, открыто декларировавших эту цель [08:29].

Важным моментом интервью стало опровержение слухов, циркулировавших в СМИ после временного увольнения Сэма Альтмана в конце 2023 года. Хелен Тонер утверждает:

*   **Миф о Q*:** Сообщения о том, что прорыв в области рассуждений под кодовым названием Q* (Q-Star) стал причиной решения совета директоров, «полностью ложны» [15:02].
*   **Осведомлённость совета:** Совет знал о текущих исследованиях в области рассуждений (которые позже привели к созданию модели o1), но никакого «пугающего письма от сотрудников» о внезапном прорыве не существовало [15:15].
*   **Причина секретности:** Тонер объясняет свою прошлую немногословность обязательствами по конфиденциальности и нежеланием вовлекать в скандал рядовых сотрудников, чьи имена могли бы всплыть при обсуждении деталей [14:22].

## 🛡 «Буферы адаптации»: Новый подход к безопасности
[[JUMP:38:00]]

Хелен Тонер критикует идею «нераспространения» мощных моделей ИИ как основной метод защиты. Она считает, что классическая модель контроля (как над ядерным оружием) не сработает в IT-сфере.

Её концепция «буферов адаптации» строится на следующих тезисах:

1.  **Снижение стоимости:** Разработка фронтирных моделей (самых мощных в мире) становится всё дороже, но повторение этого результата другими компаниями стремительно дешевеет [41:12].
2.  **Пример DeepSeek:** Китайская компания смогла сопоставить свои возможности с моделями США за гораздо меньшие деньги, что доказывает — технологический разрыв быстро сокращается [41:37].
3.  **Неэффективность запретов:** Если ядерное оружие требует редких материалов (уран), то ИИ требует только вычислительных мощностей, которые становятся всё доступнее. Пытаться запретить доступ к коду — значит создавать всё более инвазивные системы контроля, вплоть до проверок «в каждом фермерском доме» [42:56].

Вместо попыток полностью закрыть технологии, Тонер предлагает инвестировать в общественную устойчивость:

*   Масштабирование производства вакцин и мониторинг сточных вод (защита от биологических угроз, созданных с помощью ИИ) [43:22].
*   Создание инструментов автоматизированной защиты для критической инфраструктуры (энергосети, водоснабжение) [48:36].

## ⚖️ Регулирование и защита информаторов
[[JUMP:23:44]]

Обсуждая внутреннюю кухню компаний, Тонер выражает обеспокоенность «культом героя» и состоянием отстранённости у разработчиков фронтирных моделей [16:08]. Она отмечает, что порой технические специалисты сознательно дистанцируются от социальных последствий своей работы, считая их «не своей проблемой» [18:45].

Основные идеи по политике безопасности:

*   **Прозрачность:** Важно не то, чтобы государство диктовало правила обучения, а чтобы компании раскрывали свои внутренние планы безопасности (Safety and Security Plans) [32:48].
*   **Whistleblowing (Информирование):** Защита для сотрудников должна быть привязана к чётким стандартам. Если компания заявляет о соблюдении плана безопасности, но нарушает его, сотрудник должен иметь юридическую возможность сообщить об этом без страха преследования [28:10].
*   **Информационный разрыв:** Между разработчиками и обществом существует огромная пропасть в понимании возможностей систем. Сокращение этого разрыва — приоритет для регуляторов [33:38].

## 🇨🇳 Китай: Миф о неминуемом поражении
[[JUMP:1:05:07]]

Тонер анализирует резкое изменение риторики руководителей OpenAI и Anthropic в отношении Китая. Если раньше они призывали к сотрудничеству, то теперь настаивают на «униполярном мире» под лидерством США [1:12:04].

По мнению Хелен Тонер, этот сдвиг объясняется несколькими факторами:

1.  **Путь наименьшего сопротивления:** Аргумент «мы должны победить Китай» — единственный, который находит отклик у обеих партий в Конгрессе США [1:12:57].
2.  **Лоббизм:** Использование китайской угрозы помогает компаниям запрашивать госконтракты, требовать отмены регулирования и защиты от ответственности (liability shield) [1:13:10].
3.  **Геополитический контекст:** Китай активно отходит от «международного порядка, основанного на правилах», становясь всё более закрытым и враждебным в Южно-Китайском море, что усиливает напряжённость [1:09:13].

## ⚔️ ИИ на поле боя: От помощника до Skynet
[[JUMP:1:13:36]]

Совместно с Эми Пробаско Хелен Тонер подготовила исследование о «системах поддержки принятия решений» в армии. Она предостерегает от избыточного доверия текущим LLM в условиях боевых действий.

Ключевые риски военного ИИ:

*   **Галлюцинации в тактике:** Модели могут предлагать «неэскалационные» планы действий, не понимая, что на самом деле является эскалацией в конкретном культурном или политическом контексте [1:18:35].
*   **Проблема данных:** Военные условия всегда новы, а противник активно пытается обмануть систему. Обучающие данные могут совершенно не соответствовать реальности на земле [1:19:52].
*   **«Альфа-Го для войны»:** Существует пугающая перспектива создания автономных систем, которые будут самообучаться через симуляции боевых действий, достигая сверхчеловеческих, но абсолютно непостижимых для людей тактик [1:21:36].

Тонер призывает военных фокусироваться не на «волшебном ИИ-солдате», а на улучшении интерфейсов взаимодействия «человек-машина», чтобы операторы понимали границы возможностей системы и не допускали фатальных ошибок из-за слепого доверия алгоритму [1:20:19].

---