Хелен Тонер, бывший член совета директоров OpenAI и директор по стратегии Центра безопасности и новых технологий (CSET), в детальном интервью анализирует причины своего ухода из самой известной AI-компании мира, развенчивает мифы о технологических прорывах и предлагает новую концепцию сосуществования с искусственным интеллектом — «буферы адаптации».
🏛 OpenAI: Путь в совет директоров и «фактор Q*» 6:03
Хелен Тонер присоединилась к совету директоров OpenAI в 2021 году, имея за плечами опыт работы в сфере AI-политики с 2016 года . По её словам, в те годы идея создания сильного искусственного интеллекта (AGI) считалась в профессиональной среде «странной и идущей вразрез с общепринятыми нормами», а OpenAI была одной из немногих структур, открыто декларировавших эту цель .
Важным моментом интервью стало опровержение слухов, циркулировавших в СМИ после временного увольнения Сэма Альтмана в конце 2023 года. Хелен Тонер утверждает:
- Миф о Q*: Сообщения о том, что прорыв в области рассуждений под кодовым названием Q* (Q-Star) стал причиной решения совета директоров, «полностью ложны» .
- Осведомлённость совета: Совет знал о текущих исследованиях в области рассуждений (которые позже привели к созданию модели o1), но никакого «пугающего письма от сотрудников» о внезапном прорыве не существовало .
- Причина секретности: Тонер объясняет свою прошлую немногословность обязательствами по конфиденциальности и нежеланием вовлекать в скандал рядовых сотрудников, чьи имена могли бы всплыть при обсуждении деталей .
🛡 «Буферы адаптации»: Новый подход к безопасности 38:00
Хелен Тонер критикует идею «нераспространения» мощных моделей ИИ как основной метод защиты. Она считает, что классическая модель контроля (как над ядерным оружием) не сработает в IT-сфере.
Её концепция «буферов адаптации» строится на следующих тезисах:
- Снижение стоимости: Разработка фронтирных моделей (самых мощных в мире) становится всё дороже, но повторение этого результата другими компаниями стремительно дешевеет .
- Пример DeepSeek: Китайская компания смогла сопоставить свои возможности с моделями США за гораздо меньшие деньги, что доказывает — технологический разрыв быстро сокращается .
- Неэффективность запретов: Если ядерное оружие требует редких материалов (уран), то ИИ требует только вычислительных мощностей, которые становятся всё доступнее. Пытаться запретить доступ к коду — значит создавать всё более инвазивные системы контроля, вплоть до проверок «в каждом фермерском доме» .
Вместо попыток полностью закрыть технологии, Тонер предлагает инвестировать в общественную устойчивость:
- Масштабирование производства вакцин и мониторинг сточных вод (защита от биологических угроз, созданных с помощью ИИ) .
- Создание инструментов автоматизированной защиты для критической инфраструктуры (энергосети, водоснабжение) .
⚖️ Регулирование и защита информаторов 23:44
Обсуждая внутреннюю кухню компаний, Тонер выражает обеспокоенность «культом героя» и состоянием отстранённости у разработчиков фронтирных моделей . Она отмечает, что порой технические специалисты сознательно дистанцируются от социальных последствий своей работы, считая их «не своей проблемой» .
Основные идеи по политике безопасности:
- Прозрачность: Важно не то, чтобы государство диктовало правила обучения, а чтобы компании раскрывали свои внутренние планы безопасности (Safety and Security Plans) .
- Whistleblowing (Информирование): Защита для сотрудников должна быть привязана к чётким стандартам. Если компания заявляет о соблюдении плана безопасности, но нарушает его, сотрудник должен иметь юридическую возможность сообщить об этом без страха преследования .
- Информационный разрыв: Между разработчиками и обществом существует огромная пропасть в понимании возможностей систем. Сокращение этого разрыва — приоритет для регуляторов .
🇨🇳 Китай: Миф о неминуемом поражении 1:05:07
Тонер анализирует резкое изменение риторики руководителей OpenAI и Anthropic в отношении Китая. Если раньше они призывали к сотрудничеству, то теперь настаивают на «униполярном мире» под лидерством США .
По мнению Хелен Тонер, этот сдвиг объясняется несколькими факторами:
- Путь наименьшего сопротивления: Аргумент «мы должны победить Китай» — единственный, который находит отклик у обеих партий в Конгрессе США .
- Лоббизм: Использование китайской угрозы помогает компаниям запрашивать госконтракты, требовать отмены регулирования и защиты от ответственности (liability shield) .
- Геополитический контекст: Китай активно отходит от «международного порядка, основанного на правилах», становясь всё более закрытым и враждебным в Южно-Китайском море, что усиливает напряжённость .
⚔️ ИИ на поле боя: От помощника до Skynet 1:13:36
Совместно с Эми Пробаско Хелен Тонер подготовила исследование о «системах поддержки принятия решений» в армии. Она предостерегает от избыточного доверия текущим LLM в условиях боевых действий.
Ключевые риски военного ИИ:
- Галлюцинации в тактике: Модели могут предлагать «неэскалационные» планы действий, не понимая, что на самом деле является эскалацией в конкретном культурном или политическом контексте .
- Проблема данных: Военные условия всегда новы, а противник активно пытается обмануть систему. Обучающие данные могут совершенно не соответствовать реальности на земле .
- «Альфа-Го для войны»: Существует пугающая перспектива создания автономных систем, которые будут самообучаться через симуляции боевых действий, достигая сверхчеловеческих, но абсолютно непостижимых для людей тактик .
Тонер призывает военных фокусироваться не на «волшебном ИИ-солдате», а на улучшении интерфейсов взаимодействия «человек-машина», чтобы операторы понимали границы возможностей системы и не допускали фатальных ошибок из-за слепого доверия алгоритму .
