# Хелен Тонер: реальная геополитика ИИ и пределы контроля

Источник: https://www.youtube.com/watch?v=Co09gIPF4aQ
Канал: 80,000 Hours
Опубликовано: 05.11.2025

---

Гонка за искусственным интеллектом — это не забег к финишной черте, а долгое и опасное маневрирование в условиях, где «культ основателя» уступает место жесткому государственному прагматизму. Вместо утопических попыток тотального запрета технологий, Хелен Тонер предлагает стратегию адаптационных буферов: мы не можем предотвратить утечку весов моделей, но можем укрепить защиту самых уязвимых систем общества.

## 🏛️ OpenAI, Кремниевая долина и геополитика чипов: взгляд изнутри
[[JUMP:01:02]]

### Увольнение Сэма Альтмана и кризис управления в OpenAI
[[JUMP:01:33]]

В ноябре 2023 года совет директоров OpenAI принял резонансное решение об увольнении генерального директора Сэма Альтмана [01:33]. Хелен Тонер (Helen Toner), бывший член совета директоров компании, объясняет, что это решение было продиктовано искренней заботой о миссии организации, хотя со стороны его логику было крайне трудно понять [04:43]. Внутренняя ситуация отличалась чрезвычайной сложностью [03:17]. Из-за строгих соглашений о конфиденциальности совет не мог публично раскрыть все детали и мотивы своих действий [02:18]. 

Тонер отмечает, что общественность видела лишь вершину айсберга, в то время как за кулисами происходило множество мелких, но критически важных инцидентов [03:29]. Несмотря на жесткую критику, совет действовал в рамках своих фидуциарных обязанностей, пытаясь предотвратить системный кризис доверия внутри организации [03:56].

### Культурный раскол: Кремниевая долина против Вашингтона
[[JUMP:05:30]]

Последствия этого кризиса высветили глубокий ментальный разрыв между технологическим сектором и политической элитой США. Если Кремниевая долина обрушилась на совет директоров с резкой критикой [04:59], то в Вашингтоне к действиям Хелен Тонер (Helen Toner) отнеслись с пониманием [05:14]. 

Причина кроется в фундаментальном различии культур: в Кремниевой долине доминирует «культ основателя», где лидер стартапа воспринимается как неприкосновенная фигура, а совет директоров должен лишь беспрекословно его поддерживать [06:04]. В Вашингтоне же, откуда Тонер родом и где строилась ее карьера [06:31], институты и процессы контроля ценятся гораздо выше отдельных личностей. Отсутствие этого «культа» в политических кругах позволило Хелен полностью сохранить свою профессиональную репутацию и продолжить работу в сфере государственной безопасности [07:00].

### Аналитический подход CSET: данные против хайпа
[[JUMP:07:55]]

Сегодня Хелен Тонер (Helen Toner) руководит Центром безопасности и новейших технологий (CSET) при Джорджтаунском университете [08:08]. Главная задача CSET — предоставлять американским политикам независимый, объективный и технически грамотный анализ на стыке национальной безопасности и искусственного интеллекта [08:53]. Тонер подчеркивает, что центр принципиально не занимается лоббированием или политической адвокацией [09:07]. 

Вместо этого CSET делает ставку на глубокую методологию:

- Собственная команда профессиональных переводчиков для анализа китайских источников на языке оригинала [09:26].

- Уникальные базы данных, объединяющие патентный анализ, инвестиционные треки и информацию о цепочках поставок [09:55].

- Привлечение экспертов с глубокими техническими знаниями, способных перевести сложные технологические процессы на язык практической политики [10:36].

### Экспортный контроль: физическое оборудование как стратегическое «бутылочное горлышко»
[[JUMP:11:03]]

Одним из ключевых направлений работы CSET стало обоснование мер экспортного контроля в отношении Китая. Хелен Тонер (Helen Toner) объясняет, что регулировать программное обеспечение или готовые модели крайне сложно, поэтому США сосредоточились на физических элементах цепочки создания ИИ — оборудовании для производства чипов (Semiconductor Manufacturing Equipment, или SME) [14:18]. 

Производство передовых полупроводников зависит от уникальных литографических машин (таких как системы EUV от нидерландской компании ASML) [12:37]. Это оборудование невозможно быстро скопировать или заменить, поскольку его создание требует десятилетий научных разработок [13:20]. Фокус на ограничении поставок SME в Китай стал наиболее эффективной и точечной стратегией сдерживания технологического потенциала геополитического соперника [12:08].

### Дебаты вокруг Nvidia и дилемма американского доминирования
[[JUMP:17:55]]

Тем не менее, введение ограничений на экспорт готовых ИИ-чипов, таких как процессоры Nvidia, вызывает ожесточенные споры внутри США [17:55]. Главная дилемма заключается в поиске баланса между национальной безопасностью и коммерческими интересами американских IT-гигантов [18:25]. 

С одной стороны, ограничение поставок лишает Китай возможности обучать передовые модели на американском железе [21:01]. С другой стороны, американские технологические компании теряют огромный китайский рынок, что снижает их доходы, необходимые для реинвестирования в исследования и разработки (R&D) [21:28]. Внутри американского истеблишмента до сих пор нет единого мнения: должна ли политика США быть направлена на абсолютное подавление китайской индустрии или же на сохранение глобального доминирования американского ИИ-стека [21:56].

### Мягкая сила американского ИИ: интеграция важнее чистых мощностей
[[JUMP:22:37]]

Распространение американских технологий искусственного интеллекта по всему миру является мощным инструментом «мягкой силы» США, сопоставимым по влиянию с голливудским кинематографом в XX веке [23:06]. Однако Хелен Тонер (Helen Toner) подчеркивает, что геополитическое влияние зависит не просто от владения гигантскими вычислительными кластерами [23:54]. 

Гораздо важнее практическое внедрение ИИ в инфраструктуру других стран [24:22]. Для этого требуются не только чипы, но и:

- Интеграция моделей в локальные бизнес-процессы и государственные услуги [24:36].

- Поддержка квалифицированных инженеров для адаптации программного обеспечения под конкретные нужды пользователей [24:48].

- Создание доверенной экосистемы приложений вокруг американской технологической платформы.

Ранее в разговоре они также вскользь коснулись темы рисков и преимуществ открытия исходного кода передовых моделей [26:11], однако этот дискурс о безопасности открытого ПО заслуживает отдельного детального рассмотрения в дальнейшем.

## 🤖 Безопасность ИИ, «гонка» с Китаем и угроза кражи весов
[[JUMP:26:11]]

### Временная задержка как буфер безопасности для open-source
[[JUMP:26:11]]
Открытый исходный код ИИ-моделей традиционно считается оплотом прозрачности, подотчетности и равного доступа к технологиям [27:13]. Однако Хелен Тонер (Helen Toner) обращает внимание на обратную сторону медали: публикация весов моделей в свободный доступ лишает разработчиков возможности отозвать продукт или исправить критические уязвимости безопасности после релиза. Когда модель оказывается «в дикой природе», любые вредоносные сценарии использования становятся практически неконтролируемыми [27:46].

Чтобы сбалансировать преимущества открытого ПО и риски безопасности, Тонер предлагает концепцию временной задержки (*release lag*). Вместо немедленной публикации весов передовых ИИ-систем, разработчикам следует применять временную паузу перед тем, как выкладывать их в открытый доступ [26:45]. Этот буфер безопасности позволяет:

*   Детально изучить эмерджентные (внезапно возникающие) свойства модели в закрытом режиме;
*   Разработать и протестировать защитные механизмы против возможных злоупотреблений;
*   Дать обществу и регуляторам время на адаптацию к новым возможностям технологии.

Только после того, как риски будут признаны управляемыми, модель может быть открыта для широкой публики.

### Миф о предопределенной гонке за AGI
[[JUMP:28:00]]
В Вашингтоне сегодня доминирует жесткая ястребиная риторика, требующая от США победы в экзистенциальном соревновании с Китаем [31:16]. Однако Хелен Тонер скептически относится к концепции предопределенной «гонки за AGI» [30:34]. Она указывает на то, что цели Пекина и Вашингтона в сфере искусственного интеллекта сильно различаются. В то время как американские лаборатории нацелены на создание универсального сильного ИИ (AGI), китайское руководство часто рассматривает ИИ как прикладной инструмент для модернизации других секторов экономики и усиления государственного контроля [28:47].

Серьезную путаницу в дискуссию вносит языковой барьер. Тонер объясняет, что в китайском языке термины «ИИ» и «AGI» часто переводятся и воспринимаются одинаково, из-за чего заявления Пекина о лидерстве в ИИ в США ошибочно интерпретируют как стремление первыми создать AGI [29:35]. По мнению Тонер, представление о соревновании как о классической гонке с понятным финишем неверно: здесь нет единой финишной черты [40:19]. Технологическое превосходство будет распределено по множеству различных прикладных сфер, а не сосредоточено в руках того, кто первым объявит о создании AGI [41:01].

### Дипломатический тупик и дефицит технической экспертизы
[[JUMP:33:25]]
Несмотря на важность глобального диалога по безопасности ИИ, официальные дипломатические каналы между США и Китаем сталкиваются с серьезными трудностями [33:25]. Американские дипломаты настроены крайне скептически из-за долгой истории кибершпионажа и кражи интеллектуальной собственности со стороны Китая [36:31]. Даже когда сторонам удается сесть за стол переговоров, обсуждение быстро заходит в тупик [35:26].

Главным препятствием становится специфический состав китайских делегаций. По словам Тонер, за китайскими учеными и техническими специалистами часто стоят политические кураторы (*handlers*), чья основная задача — следить за соблюдением партийной линии, а не вести содержательный диалог [38:13]. Это приводит к дефициту реальной технической экспертизы у переговорщиков с китайской стороны [38:27]. Вместо глубокого обсуждения архитектуры безопасности ИИ и сценариев катастрофических рисков, переговоры скатываются к формальному обмену стандартными политическими тезисами, что подрывает доверие и мешает выработке общих стандартов безопасности [38:55].

### Неизбежность утечки: почему веса моделей невозможно защитить
[[JUMP:39:07]]
Одной из ключевых тем национальной безопасности США становится угроза кражи цифровых активов, в первую очередь — весов обученных моделей ИИ [39:07]. Ранее в разговоре они кратко касались экспортного контроля оборудования для чипов, но здесь фокус смещается непосредственно на киберзащиту самих систем. Хелен Тонер подчеркивает, что в долгосрочной перспективе утечка весов передовых моделей в Китай практически неизбежна [43:07]. Традиционные методы кибербезопасности коммерческих компаний бессильны против скоординированных атак продвинутых государственных хакеров (*state actors*) [41:52].

Исследования аналитического центра RAND подтверждают, что сегодня ни одна частная лаборатория ИИ не способна защитить свою интеллектуальную собственность от взлома спецслужбами уровня КНР [42:05]. Если злоумышленники похищают веса модели, они получают фактически готовый продукт, минуя колоссальные затраты на вычисления и обучение [43:20]. Тонер замечает, что даже если разработчики создадут системы, устойчивые к внешнему взлому прямо сейчас, модели следующих поколений все равно окажутся под угрозой кражи, что сводит на нет попытки США удерживать монополию на передовые технологии [42:39].

### Границы технологического разрыва: отстает ли Китай на самом деле?
[[JUMP:44:32]]
Несмотря на панические настроения в Вашингтоне, реальное технологическое отставание Китая от США в сфере ИИ на сегодняшний день не выглядит непреодолимым. Хелен Тонер оценивает этот разрыв в пределах 6–12 месяцев [47:42]. В то время как США гордятся релизами моделей вроде семейства o1 от OpenAI [45:41], китайские разработчики демонстрируют высокую скорость копирования и адаптации технологий.

Ярким примером служат модели серии Qwen от Alibaba, которые по ряду параметров вплотную приблизились к лучшим американским аналогам [46:31]. Разрыв постоянно колеблется:

*   После выхода революционного релиза в США китайским лабораториям требуется от полугода до девяти месяцев, чтобы воспроизвести аналогичный результат [46:58];
*   Китайские компании демонстрируют выдающиеся успехи в быстрой коммерциализации и оптимизации моделей для практического использования;
*   Создание систем вроде o3 от OpenAI показывает, что американское лидерство удерживается за счет масштабирования, но эта дистанция стремительно сокращается [47:28].

Такая динамика ставит под сомнение эффективность долгосрочных стратегий сдерживания, основанных исключительно на предположении о технологической отсталости Китая [45:01].

## 🌐 Таможня, облака и шейхи: геополитические рычаги контроля над ИИ
[[JUMP:51:21]]

### Иммиграционный тупик: как визовые барьеры бьют по технологическому лидерству США
[[JUMP:51:34]]

Хелен Тонер подчеркивает, что одним из самых критических, но часто игнорируемых факторов в геополитическом противостоянии в сфере искусственного интеллекта является иммиграционная политика [51:34]. Жесткие ограничения на въезд высококвалифицированных специалистов, ученых и инженеров в США наносят прямой и глубокий ущерб технологической конкурентоспособности страны, особенно на фоне амбиций Китая [51:50]. Вместо того чтобы привлекать лучшие умы планеты, американская визовая система выстраивает искусственные барьеры, выталкивая перспективные кадры обратно. 

По мнению Тонер, сокращение научного финансирования и ужесточение визовых процедур для исследователей из таких ключевых регионов, как Китай или Индия, серьезно ослабляют инновационную экосистему США [52:03]. В геополитической перспективе способность удерживать лучших инженеров внутри страны является гораздо более мощным стратегическим преимуществом, чем любые оборонные или чисто торговые ограничения. 

### «Аренда вместо продажи»: новый подход к контролю над физическими чипами
[[JUMP:52:46]]

Традиционная модель дистрибуции полупроводников — продажа физических микросхем — стремительно теряет свою геополитическую эффективность. Хелен Тонер обращается к концепции «арендовать, а не продавать» (rent, don't sell), которую ранее в подкасте подробно разбирал аналитик Леннарт Хайм [52:46]. Суть идеи заключается в переходе от экспорта физического оборудования к предоставлению контролируемого облачного доступа к вычислительным мощностям. 

Когда США продают передовые чипы за рубеж, они мгновенно теряют над ними физический контроль. В случае же облачной аренды Вашингтон сохраняет возможность:

* Отслеживать характер задач, выполняемых на арендованных мощностях;

* Проводить верификацию конечных пользователей;

* Оперативно блокировать или полностью отключать доступ при нарушении правил безопасности [53:27].

Такой подход позволяет не только сохранять коммерческую выгоду, но и оставляет за США ключевой рычаг управления технологией. Полная блокировка экспорта физических чипов лишь подтолкнула бы другие страны к поиску альтернативных каналов поставок [54:14]. Ранее в разговоре Хелен уже касалась темы экспортных ограничений, и инцидент с тем, как китайская Huawei смогла получить передовые чипы от тайваньской TSMC в обход запретов [1:05:05], наглядно доказывает ненадежность контроля над физическими цепочками поставок. Облачный контроль («rent, don't sell») предлагает гораздо более надежный компромисс [55:26].

### Экспансия в Персидский залив: риски ИИ-сделок с авторитарными режимами
[[JUMP:55:54]]

Особое беспокойство Хелен Тонер вызывают недавние сделки американских компаний по строительству гигантских дата-центров на Ближнем Востоке, в частности в ОАЭ и Саудовской Аравии [55:54]. Эти соглашения позиционируются как способ закрепить американское технологическое влияние в регионе, однако они несут в себе колоссальные геополитические риски. Обе эти страны являются жесткими автократиями [57:57]. Тонер напоминает об убийстве журналиста Джамаля Хашогги прямо в здании саудовского консульства [58:27], фиктивных выборах, отсутствии демократических институтов и жесткой эксплуатации мигрантов, на труде которых держатся эти государства [59:29].

Попытки американских техногигантов оправдать подобные сделки заявлениями о «строительстве ИИ на демократических рельсах» выглядят как банальный корпоративный пиар [1:01:17]. На практике передача передовых вычислительных мощностей монархиям Персидского залива дает огромную власть правителям, чьи интересы фундаментально расходятся с западными ценностями [1:00:28]. Более того, эти режимы поддерживают тесные экономические и технологические связи с Пекином. Существует реальная угроза того, что Китай получит доступ к ценным ИИ-ресурсам и весам моделей через эти площадки, обойдя любые американские запреты [1:03:02].

### Угроза монополизации AGI: почему концентрация ИИ-мощностей опасна для общества
[[JUMP:1:08:07]]

По мере приближения к созданию сильного искусственного интеллекта (AGI) ключевым вызовом становится беспрецедентная концентрация власти [1:08:07]. Доминирующая сегодня парадигма масштабирования (scaling hypothesis) требует гигантских финансовых затрат на закупку оборудования и энергоснабжение [1:08:23]. Это создает колоссальный порог входа, который автоматически отсекает независимых исследователей и оставляет технологию в руках узкого круга сверхбогатых корпораций и государств [1:08:55].

Тонер предупреждает: исторический опыт показывает, что сверхконцентрация ресурсов и контроля в руках единичных игроков никогда не приводила к хорошим последствиям для общества [1:10:14]. Возникает глубокий раскол между техно-оптимистами и сторонниками жесткого регулирования. Хелен ссылается на концепцию из книги Вирджинии Пострел «Будущее и его враги» [1:13:30], где описывается противостояние динамизма (гибкого развития) и стазиса (стремления к тотальной централизации и контролю) [1:15:40]. Попытки управлять развитием AGI из единого центра могут затормозить здоровые инновации, но пустить процесс на самотек в условиях корпоративной монополии еще опаснее. Нам необходимо искать механизмы распределения и диффузии этой власти [1:12:28].

## 🛡️ Путь «управляемого хаоса» и адаптационные буферы безопасности
[[JUMP:1:18:49]]

### 🧪 Спор об экзистенциальной угрозе: «Сценарий терминатора» против постепенной адаптации
[[JUMP:1:18:49]]

Дискуссия вокруг безопасности искусственного интеллекта глубоко поляризована. Как отмечает Роб Уиблин, сообщество разделилось в оценке вероятности катастрофического сценария: для одних этот риск составляет ничтожные 1 из 1000, в то время как для других он достигает пугающих 50% [1:19:19]. Хелен Тонер указывает, что в условиях такого колоссального расхождения в базовых предпосылках выработка единой государственной политики сильно усложняется. Тем не менее, существует консенсус по базовым шагам, среди которых ключевым является повышение прозрачности и раскрытие информации со стороны ИИ-лабораторий [1:20:28]. Это позволило бы сформировать объективную картину того, какие системы разрабатываются на самом деле [1:21:08].

Важным элементом этой дискуссии является концепция «пробивания насквозь» (muddling through) [1:24:12]. Вместо веры в то, что человечество способно превентивно разработать идеальное техническое решение для контроля над сверхразумом, эта стратегия предполагает постепенное приспособление к возникающим кризисам по мере их поступления — аналогично тому, как мир справился с угрозой ядерного оружия [1:25:23]. Разница во взглядах часто упирается в то, воспринимаем ли мы ИИ как автономного «агента» или как высокоэффективный «инструмент» в руках человека [1:26:44]. При этом Тонер подчеркивает важность эмпирических исследований интерпретируемости моделей, где ученым приходится действовать методом проб и ошибок, а не строго по инженерным чертежам [1:22:21].

### 🚫 Неизбежность распространения моделей и крах концепции нераспространения
[[JUMP:1:30:16]]

Традиционный подход к безопасности ИИ часто заимствует логику из сферы нераспространения ядерного оружия. Однако Хелен Тонер утверждает, что эта аналогия принципиально не работает в мире программного обеспечения [1:32:47]. Если передовая модель создана, ее утечка, кража или повторное создание другими игроками — лишь вопрос времени. Рано или поздно мощные ИИ-инструменты станут дешевыми, доступными и простыми в использовании для широкого круга лиц [1:32:16].

В таких условиях попытки установить тотальный контроль над весами моделей или ограничить доступ к открытому исходному коду обречены на провал. Злоумышленники всегда найдут способ обойти цифровые барьеры [1:33:01]. Именно поэтому Хелен Тонер предлагает радикальный сдвиг парадигмы: вместо того чтобы пытаться удержать технологии в абсолютном секрете, необходимо инвестировать в повышение устойчивости самого общества. Это подводит нас к концепции адаптационных буферов безопасности ИИ [1:30:16].

### 🛡️ Адаптационные буферы: защита мишеней, а не оружия
[[JUMP:1:33:14]]

Суть концепции «адаптационных буферов» (adaptation buffers) заключается в том, чтобы сделать общество устойчивым к атакам и злоупотреблениям с использованием ИИ, укрепляя оборонительные рубежи в критических сферах [1:33:14]. Вместо фокусировки исключительно на гипотетическом «выходе ИИ из-под контроля» (misalignment), Тонер призывает обратить внимание на вполне осязаемые риски злонамеренного использования (misuse) технологий человеком [1:34:45]. 

Адаптационные буферы предлагают инвестировать ресурсы не в запреты моделей, а в модернизацию инфраструктуры защиты реального мира. Например, если существует угроза использования ИИ для создания нового биологического оружия [1:33:59], наиболее эффективным ответом будет не попытка запретить ИИ-моделям «знать» биологию, а внедрение повсеместного скрининга синтеза нуклеиновых кислот на уровне провайдеров ДНК-печати [1:37:06]. В таком сценарии, даже если злоумышленник сгенерирует опасный патоген с помощью ИИ, он просто не сможет физически напечатать его в лаборатории [1:36:38].

Аналогичный подход применим и к кибербезопасности. Автоматизация защиты сетей и быстрое исправление уязвимостей должны опережать наступательный потенциал ИИ-хакеров [1:21:36].

### 🧬 Разделение угроз: почему защита эффективнее запретов
[[JUMP:1:33:43]]

Тонер подчеркивает, что в дискуссиях об ИИ часто смешивают две принципиально разные модели угроз: сценарии утери контроля над сверхразумом и сценарии мгновенного масштабирования человеческой злонамеренности [1:33:43]. Внедрение адаптационных мер позволяет адресовать обе эти проблемы, повышая общую устойчивость цивилизации.

Основные направления создания адаптационных буферов включают:

*   **Биозащита:** Усиление контроля над цепочками поставок биоматериалов и обязательный аудит заказов на синтез генов [1:37:06].

*   **Кибероборона:** Переход на автоматизированные системы обнаружения вторжений и быструю генерацию патчей безопасности, способные противостоять ИИ-агентам в реальном времени [1:21:36].

*   **Устойчивость институтов:** Разработка протоколов верификации информации и защиты критической инфраструктуры от дезинформационных кампаний.

Вместо того чтобы надеяться на идеальную безопасность самих ИИ-систем, человечеству необходимо выстроить глубоко эшелонированную оборону реального мира. Это позволит минимизировать ущерб даже в тех случаях, когда ИИ-модели будут скомпрометированы или намеренно использованы во вред [1:38:02]. Хотя подобные меры обороны критически важны и для государственных структур, процесс внедрения технологий в оборонный сектор сталкивается со своими специфическими бюрократическими препятствиями, о которых пойдет речь далее.

## 5. Бюрократия Пентагона, эволюция Конгресса и коммерческий разворот OpenAI
[[JUMP:1:41:41]]

### Военный ИИ: организационные барьеры и проблема управляемости в Пентагоне
[[JUMP:1:41:41]]

Интеграция передовых технологий искусственного интеллекта в оборонную сферу США сталкивается со сложными вызовами, которые лежат далеко за пределами чистых вычислений. Как отмечает Хелен Тонер (Helen Toner), процесс внедрения ИИ-систем для поддержки военных решений натыкается на серьезные организационные препятствия и глубоко укоренившиеся, устаревшие правила закупок внутри Министерства обороны США [1:41:41]. Военная машина неохотно адаптируется к гибкому циклу разработки софта, привыкнув закупать физическое аппаратное обеспечение по многолетним контрактам.

Помимо бюрократии, министерство сталкивается с жесткими требованиями к безопасности цепочек поставок. Использование зарубежных компонентов, особенно китайского происхождения, полностью исключено из соображений национальной безопасности [1:42:27]. Внедрение автономных систем также поднимает фундаментальные вопросы о границах контроля: должен ли ИИ беспрекословно выполнять жесткие команды оператора или ему следует предоставить определенную автономию для принятия решений в меняющейся боевой обстановке [1:43:03]? Проблема усугубляется технической уязвимостью моделей. Вредоносное воздействие со стороны противников может не только нарушить работу ИИ, но и заставить систему обманом склонить человека-оператора к нежелательным действиям [1:43:17]. При этом младший состав военнослужащих традиционно обучается строго выполнять приказы сверху, что снижает их способность критически оценивать потенциальные сбои автономных систем на поле боя [1:44:32].

В контексте безопасности Хелен Тонер предлагает пересмотреть устоявшуюся терминологию. Она считает популярный термин «согласование» (alignment) не совсем удачным для практической политики [1:45:12]. Слово «согласование» ошибочно предполагает существование некоего единого, заранее определенного набора ценностей, под который можно подогнать модель [1:45:53]. Вместо этого Тонер предлагает использовать понятия «управляемость» (controllability) или «направляемость» (steerability) [1:46:25]. Это смещает фокус на конкретные технические возможности операторов вмешиваться в работу системы и корректировать ее поведение как на этапе обучения, так и непосредственно в процессе эксплуатации [1:46:55].

### От ликбеза к экзистенциальным угрозам: как Конгресс США осознал масштаб ИИ
[[JUMP:1:47:27]]

За последние годы отношение американских законодателей к технологиям искусственного интеллекта претерпело кардинальную трансформацию. Еще недавно члены Палаты представителей и Сената США воспринимали ИИ сквозь призму базовых технологических концепций. Однако после публичного релиза ChatGPT ситуация резко изменилась, и политики на Капитолийском холме были вынуждены пройти экстренный курс обучения [1:49:00]. 

Сегодня дискуссии в Конгрессе вышли на принципиально новый уровень зрелости. Вместо абстрактных разговоров законодатели ведут предметные дебаты с лидерами индустрии, прямо задавая вопросы о том, как контролировать создание сверхинтеллекта и предотвратить системные экзистенциальные риски [1:47:56]. По оценке Хелен Тонер, 2023 год стал переломным моментом, когда политический дискурс разделился на два лагеря с принципиально разным видением масштаба грядущих изменений [1:49:28]. На смену поверхностному непониманию пришел глубокий анализ того, насколько сильной окажется социальная и экономическая дестабилизация от массового внедрения ИИ-технологий в ближайшие годы [1:49:45].

### Иллюзия замедления: стабильный темп прогресса ИИ и постепенные релизы
[[JUMP:1:50:01]]

В публичном пространстве периодически возникают разговоры о том, что темпы развития ИИ начинают снижаться. Однако Хелен Тонер не видит никаких объективных признаков замедления технологического прогресса [1:50:01]. Она подчеркивает, что с момента изобретения архитектуры трансформера в 2017 году отрасль демонстрирует стабильный, непрерывный подъем по экспоненте сложности [1:51:13]. 

Восприятие замедления — это скорее психологический эффект смены бизнес-моделей ведущих лабораторий. Вместо редких демонстраций гигантских технологических скачков (каким был выход GPT-4) компании перешли к стратегии частых, но постепенных и постепенных инкрементальных обновлений [1:53:10]. Тонер ссылается на авторитетные графики исследовательской группы Epoch, которые наглядно подтверждают эту тенденцию [1:53:40]. 

В экспертном сообществе сейчас борются два основных взгляда на будущее индустрии:

*   **Оптимисты экспоненты**, ожидающие лавинообразного самовыстраивающегося ускорения, при котором системы ИИ начнут сами проектировать следующие поколения ИИ [1:54:35, 1:55:19].
*   **Сторонники физических ограничений**, указывающие на неизбежные барьеры в виде дефицита качественных данных, чипов и электроэнергии [1:55:31]. Они трактуют любые временные неудачи передовых моделей (например, проблемы с планированием у версий уровня GPT-5 или Claude 4.5) как признак скорого плато [1:56:48]. 

Сама Тонер призывает смотреть на картину масштабно: общий прогресс огромен, а реальные социально-экономические последствия этих технологий нам еще только предстоит полностью осознать [1:51:56]. Чтобы оставаться в курсе этого стремительного потока изменений, сама Хелен опирается на регулярный мониторинг профильных рассылок и Substacks, агрегирующих ключевые политические и технические новости [2:05:42].

### Коммерческая реструктуризация OpenAI и кризис некоммерческого контроля
[[JUMP:1:57:53]]

Ранее в разговоре собеседники вскользь касались драматических событий вокруг увольнения Сэма Альтмана и культурных различий между Кремниевой долиной и Вашингтоном [1:57:53]. На фоне этих процессов особое беспокойство экспертов вызывает возможная реструктуризация корпоративной модели OpenAI. Планы компании по выделению коммерческого подразделения в самостоятельную структуру и потенциальное ослабление роли некоммерческой материнской организации ставят под удар первоначальную миссию стартапа [1:58:07].

Вокруг OpenAI уже сформировалась целая экосистема независимых наблюдателей, отслеживающих качество корпоративного управления [1:58:54]. Главный юридический и этический вопрос заключается в том, сможет ли некоммерческий совет директоров сохранить реальные рычаги контроля над коммерческим сектором в новой структуре [1:59:24]. По уставу OpenAI обязательства перед некоммерческой частью и миссией создания безопасного ИИ на благо всего человечества должны превалировать над интересами инвесторов [1:59:37]. Однако на практике, когда на кону стоят сотни миллиардов долларов коммерческой прибыли, совет директоров фактически оказывается в ситуации «переговоров с самим собой», пытаясь совместить несовместимые юридические обязательства [2:00:36]. Подобный дуализм требует от руководителей постоянного профессионального лавирования и «переключения кодов» между циничным прагматизмом Кремниевой долины и строгими рамками национальной безопасности Вашингтона [2:02:22].

## 🧭 Навигация в мире ИИ-политики: независимость CSET, дефицит кадров и будущее технологий
[[JUMP:2:06:54]]

По мере того как искусственный интеллект превращается в ключевой фактор национальной безопасности и экономического доминирования, потребность в объективной аналитике возрастает экспоненциально. Однако в сфере, где сталкиваются интересы триллионных корпораций и суверенных государств, сохранять беспристрастность становится всё сложнее. Хелен Тонер (Helen Toner) делится тем, как её аналитический центр CSET решает эти вызовы, с какими трудностями сталкиваются современные законодатели и как выглядит идеальный специалист по ИИ-политике сегодня.

### Финансовая независимость и защита от корпоративного лоббизма
[[JUMP:2:10:35]]

Один из главных вызовов для любого аналитического центра в Вашингтоне — сохранение интеллектуальной независимости. В сфере ИИ этот вопрос стоит особенно остро, так как индустрия переполнена коммерческими интересами [2:10:35]. Как отмечает Хелен Тонер, CSET с самого начала выстраивал жесткие внутренние барьеры, чтобы исключить влияние спонсоров на результаты исследований [2:14:18]. 

Центр крайне избирательно подходит к источникам финансирования, полностью изолируя исследовательский процесс от внешнего давления [2:14:36]. Это критически важно, учитывая масштабы корпоративного влияния на политические решения. В качестве примера Тонер приводит лоббистскую кампанию Nvidia вокруг экспортных ограничений (тема, которую собеседники подробно разбирали в начале разговора) [2:10:50]. Чтобы давать объективные рекомендации правительству, аналитики должны быть полностью свободны от коммерческой ангажированности [2:15:22].

### Законодательные инициативы: от SB 1047 к новым стандартам
[[JUMP:2:11:31]]

Попытки регулирования ИИ на уровне штатов, особенно в Калифорнии, становятся важнейшим полигоном для обкатки будущих федеральных правил. Хелен Тонер обращает внимание на развитие ситуации вокруг резонансного калифорнийского законопроекта SB 1047 и его преемников [2:11:31]. После того как первоначальный проект столкнулся с серьезным сопротивлением и вето губернатора Гэвина Ньюсома, была создана специальная экспертная комиссия для поиска консенсуса [2:12:14].

Новые законодательные инициативы предлагают более мягкие, но при этом более консенсусные шаги по сравнению с радикальным SB 1047 [2:12:47]. По мнению Тонер, калифорнийские инициативы могут сыграть для США роль, аналогичную европейскому регламенту GDPR, задав высокие стандарты безопасности, которым технологическим гигантам придется подчиниться де-факто [2:13:33]. Роль CSET в этом процессе заключается в предоставлении точных данных для оценки регулирующего воздействия таких законов.

### Ликбез для политиков и борьба с заблуждениями
[[JUMP:2:17:33]]

В обществе популярен стереотип о том, что государственные чиновники и конгрессмены абсолютно некомпетентны в технологических вопросах. Хелен Тонер категорически не согласна с этим мнением [2:17:33]. Проблема заключается не в глупости политиков, а в колоссальном дефиците времени: типичный законодатель вынужден ежедневно принимать решения по десяткам сложнейших тем — от сельского хозяйства до ядерного сдерживания [2:18:01].

Для преодоления этого барьера CSET активно разрабатывает ознакомительные материалы «нулевого уровня», которые объясняют сложные концепции ИИ без использования сложного технического жаргона [2:18:50]. Главная задача — помочь политикам понять:

*   В чем разница между ИИ как простым прикладным инструментом и ИИ как автономным агентом [2:19:45];
*   Почему современные модели демонстрируют непредсказуемое эмерджентное поведение [2:18:33];
*   Как оценивать риски, связанные с выполнением многошаговых и комплексных задач [2:20:26].

### Карьерный путь в AI Policy и новые вакансии CSET
[[JUMP:2:07:26]]

Сектор политики в области ИИ сейчас переживает бурный рост, привлекая множество новых лиц, что делает конкуренцию более жесткой [2:08:39]. Для тех, кто хочет войти в эту индустрию, Тонер рекомендует активно использовать открытые платформы данных, включая публичный портал CSET [2:07:26]. 

Идеальный кандидат в сфере ИИ-политики должен обладать уникальным сочетанием навыков: иметь практический опыт взаимодействия с современными моделями (понимать их ограничения на личном опыте) и одновременно глубоко разбираться в механизмах государственного управления [2:16:35]. 

CSET, выросший из крошечной инициативы в Вашингтоне до организации штатом более 50 человек, продолжает активно расширяться [2:22:13]. В настоящее время центр открывает новые вакансии:

*   Аналитики в области передовых систем ИИ (Frontier AI) [2:21:26];
*   Специалисты по коммуникациям и связям с общественностью [2:21:54].

Подводя итог многолетней работы, Хелен Тонер выражает надежду, что к началу следующего десятилетия человечеству удастся выстроить надежную и безопасную архитектуру сосуществования с передовым искусственным интеллектом [2:22:42].