Хелен Тонер: реальная геополитика ИИ и пределы контроля

Гонка за искусственным интеллектом — это не забег к финишной черте, а долгое и опасное маневрирование в условиях, где «культ основателя» уступает место жесткому государственному прагматизму. Вместо утопических попыток тотального запрета технологий, Хелен Тонер предлагает стратегию адаптационных буферов: мы не можем предотвратить утечку весов моделей, но можем укрепить защиту самых уязвимых систем общества.

🏛️ OpenAI, Кремниевая долина и геополитика чипов: взгляд изнутри 1:02

Увольнение Сэма Альтмана и кризис управления в OpenAI 1:33

В ноябре 2023 года совет директоров OpenAI принял резонансное решение об увольнении генерального директора Сэма Альтмана . Хелен Тонер (Helen Toner), бывший член совета директоров компании, объясняет, что это решение было продиктовано искренней заботой о миссии организации, хотя со стороны его логику было крайне трудно понять . Внутренняя ситуация отличалась чрезвычайной сложностью . Из-за строгих соглашений о конфиденциальности совет не мог публично раскрыть все детали и мотивы своих действий .

Тонер отмечает, что общественность видела лишь вершину айсберга, в то время как за кулисами происходило множество мелких, но критически важных инцидентов . Несмотря на жесткую критику, совет действовал в рамках своих фидуциарных обязанностей, пытаясь предотвратить системный кризис доверия внутри организации .

Культурный раскол: Кремниевая долина против Вашингтона 5:30

Последствия этого кризиса высветили глубокий ментальный разрыв между технологическим сектором и политической элитой США. Если Кремниевая долина обрушилась на совет директоров с резкой критикой , то в Вашингтоне к действиям Хелен Тонер (Helen Toner) отнеслись с пониманием .

Причина кроется в фундаментальном различии культур: в Кремниевой долине доминирует «культ основателя», где лидер стартапа воспринимается как неприкосновенная фигура, а совет директоров должен лишь беспрекословно его поддерживать . В Вашингтоне же, откуда Тонер родом и где строилась ее карьера , институты и процессы контроля ценятся гораздо выше отдельных личностей. Отсутствие этого «культа» в политических кругах позволило Хелен полностью сохранить свою профессиональную репутацию и продолжить работу в сфере государственной безопасности .

Аналитический подход CSET: данные против хайпа 7:55

Сегодня Хелен Тонер (Helen Toner) руководит Центром безопасности и новейших технологий (CSET) при Джорджтаунском университете . Главная задача CSET — предоставлять американским политикам независимый, объективный и технически грамотный анализ на стыке национальной безопасности и искусственного интеллекта . Тонер подчеркивает, что центр принципиально не занимается лоббированием или политической адвокацией .

Вместо этого CSET делает ставку на глубокую методологию:

• Собственная команда профессиональных переводчиков для анализа китайских источников на языке оригинала .

• Уникальные базы данных, объединяющие патентный анализ, инвестиционные треки и информацию о цепочках поставок .

• Привлечение экспертов с глубокими техническими знаниями, способных перевести сложные технологические процессы на язык практической политики .

Экспортный контроль: физическое оборудование как стратегическое «бутылочное горлышко» 11:03

Одним из ключевых направлений работы CSET стало обоснование мер экспортного контроля в отношении Китая. Хелен Тонер (Helen Toner) объясняет, что регулировать программное обеспечение или готовые модели крайне сложно, поэтому США сосредоточились на физических элементах цепочки создания ИИ — оборудовании для производства чипов (Semiconductor Manufacturing Equipment, или SME) .

Производство передовых полупроводников зависит от уникальных литографических машин (таких как системы EUV от нидерландской компании ASML) . Это оборудование невозможно быстро скопировать или заменить, поскольку его создание требует десятилетий научных разработок . Фокус на ограничении поставок SME в Китай стал наиболее эффективной и точечной стратегией сдерживания технологического потенциала геополитического соперника .

Дебаты вокруг Nvidia и дилемма американского доминирования 17:55

Тем не менее, введение ограничений на экспорт готовых ИИ-чипов, таких как процессоры Nvidia, вызывает ожесточенные споры внутри США . Главная дилемма заключается в поиске баланса между национальной безопасностью и коммерческими интересами американских IT-гигантов .

С одной стороны, ограничение поставок лишает Китай возможности обучать передовые модели на американском железе . С другой стороны, американские технологические компании теряют огромный китайский рынок, что снижает их доходы, необходимые для реинвестирования в исследования и разработки (R&D) . Внутри американского истеблишмента до сих пор нет единого мнения: должна ли политика США быть направлена на абсолютное подавление китайской индустрии или же на сохранение глобального доминирования американского ИИ-стека .

Мягкая сила американского ИИ: интеграция важнее чистых мощностей 22:37

Распространение американских технологий искусственного интеллекта по всему миру является мощным инструментом «мягкой силы» США, сопоставимым по влиянию с голливудским кинематографом в XX веке . Однако Хелен Тонер (Helen Toner) подчеркивает, что геополитическое влияние зависит не просто от владения гигантскими вычислительными кластерами .

Гораздо важнее практическое внедрение ИИ в инфраструктуру других стран . Для этого требуются не только чипы, но и:

• Интеграция моделей в локальные бизнес-процессы и государственные услуги .

• Поддержка квалифицированных инженеров для адаптации программного обеспечения под конкретные нужды пользователей .

• Создание доверенной экосистемы приложений вокруг американской технологической платформы.

Ранее в разговоре они также вскользь коснулись темы рисков и преимуществ открытия исходного кода передовых моделей , однако этот дискурс о безопасности открытого ПО заслуживает отдельного детального рассмотрения в дальнейшем.

🤖 Безопасность ИИ, «гонка» с Китаем и угроза кражи весов 26:11

Временная задержка как буфер безопасности для open-source 26:11

Открытый исходный код ИИ-моделей традиционно считается оплотом прозрачности, подотчетности и равного доступа к технологиям . Однако Хелен Тонер (Helen Toner) обращает внимание на обратную сторону медали: публикация весов моделей в свободный доступ лишает разработчиков возможности отозвать продукт или исправить критические уязвимости безопасности после релиза. Когда модель оказывается «в дикой природе», любые вредоносные сценарии использования становятся практически неконтролируемыми .

Чтобы сбалансировать преимущества открытого ПО и риски безопасности, Тонер предлагает концепцию временной задержки (release lag). Вместо немедленной публикации весов передовых ИИ-систем, разработчикам следует применять временную паузу перед тем, как выкладывать их в открытый доступ . Этот буфер безопасности позволяет:

• Детально изучить эмерджентные (внезапно возникающие) свойства модели в закрытом режиме;
• Разработать и протестировать защитные механизмы против возможных злоупотреблений;
• Дать обществу и регуляторам время на адаптацию к новым возможностям технологии.

Только после того, как риски будут признаны управляемыми, модель может быть открыта для широкой публики.

Миф о предопределенной гонке за AGI 28:00

В Вашингтоне сегодня доминирует жесткая ястребиная риторика, требующая от США победы в экзистенциальном соревновании с Китаем . Однако Хелен Тонер скептически относится к концепции предопределенной «гонки за AGI» . Она указывает на то, что цели Пекина и Вашингтона в сфере искусственного интеллекта сильно различаются. В то время как американские лаборатории нацелены на создание универсального сильного ИИ (AGI), китайское руководство часто рассматривает ИИ как прикладной инструмент для модернизации других секторов экономики и усиления государственного контроля .

Серьезную путаницу в дискуссию вносит языковой барьер. Тонер объясняет, что в китайском языке термины «ИИ» и «AGI» часто переводятся и воспринимаются одинаково, из-за чего заявления Пекина о лидерстве в ИИ в США ошибочно интерпретируют как стремление первыми создать AGI . По мнению Тонер, представление о соревновании как о классической гонке с понятным финишем неверно: здесь нет единой финишной черты . Технологическое превосходство будет распределено по множеству различных прикладных сфер, а не сосредоточено в руках того, кто первым объявит о создании AGI .

Дипломатический тупик и дефицит технической экспертизы 33:25

Несмотря на важность глобального диалога по безопасности ИИ, официальные дипломатические каналы между США и Китаем сталкиваются с серьезными трудностями . Американские дипломаты настроены крайне скептически из-за долгой истории кибершпионажа и кражи интеллектуальной собственности со стороны Китая . Даже когда сторонам удается сесть за стол переговоров, обсуждение быстро заходит в тупик .

Главным препятствием становится специфический состав китайских делегаций. По словам Тонер, за китайскими учеными и техническими специалистами часто стоят политические кураторы (handlers), чья основная задача — следить за соблюдением партийной линии, а не вести содержательный диалог . Это приводит к дефициту реальной технической экспертизы у переговорщиков с китайской стороны . Вместо глубокого обсуждения архитектуры безопасности ИИ и сценариев катастрофических рисков, переговоры скатываются к формальному обмену стандартными политическими тезисами, что подрывает доверие и мешает выработке общих стандартов безопасности .

Неизбежность утечки: почему веса моделей невозможно защитить 39:07

Одной из ключевых тем национальной безопасности США становится угроза кражи цифровых активов, в первую очередь — весов обученных моделей ИИ . Ранее в разговоре они кратко касались экспортного контроля оборудования для чипов, но здесь фокус смещается непосредственно на киберзащиту самих систем. Хелен Тонер подчеркивает, что в долгосрочной перспективе утечка весов передовых моделей в Китай практически неизбежна . Традиционные методы кибербезопасности коммерческих компаний бессильны против скоординированных атак продвинутых государственных хакеров (state actors) .

Исследования аналитического центра RAND подтверждают, что сегодня ни одна частная лаборатория ИИ не способна защитить свою интеллектуальную собственность от взлома спецслужбами уровня КНР . Если злоумышленники похищают веса модели, они получают фактически готовый продукт, минуя колоссальные затраты на вычисления и обучение . Тонер замечает, что даже если разработчики создадут системы, устойчивые к внешнему взлому прямо сейчас, модели следующих поколений все равно окажутся под угрозой кражи, что сводит на нет попытки США удерживать монополию на передовые технологии .

Границы технологического разрыва: отстает ли Китай на самом деле? 44:32

Несмотря на панические настроения в Вашингтоне, реальное технологическое отставание Китая от США в сфере ИИ на сегодняшний день не выглядит непреодолимым. Хелен Тонер оценивает этот разрыв в пределах 6–12 месяцев . В то время как США гордятся релизами моделей вроде семейства o1 от OpenAI , китайские разработчики демонстрируют высокую скорость копирования и адаптации технологий.

Ярким примером служат модели серии Qwen от Alibaba, которые по ряду параметров вплотную приблизились к лучшим американским аналогам . Разрыв постоянно колеблется:

• После выхода революционного релиза в США китайским лабораториям требуется от полугода до девяти месяцев, чтобы воспроизвести аналогичный результат ;
• Китайские компании демонстрируют выдающиеся успехи в быстрой коммерциализации и оптимизации моделей для практического использования;
• Создание систем вроде o3 от OpenAI показывает, что американское лидерство удерживается за счет масштабирования, но эта дистанция стремительно сокращается .

Такая динамика ставит под сомнение эффективность долгосрочных стратегий сдерживания, основанных исключительно на предположении о технологической отсталости Китая .

🌐 Таможня, облака и шейхи: геополитические рычаги контроля над ИИ 51:21

Иммиграционный тупик: как визовые барьеры бьют по технологическому лидерству США 51:34

Хелен Тонер подчеркивает, что одним из самых критических, но часто игнорируемых факторов в геополитическом противостоянии в сфере искусственного интеллекта является иммиграционная политика . Жесткие ограничения на въезд высококвалифицированных специалистов, ученых и инженеров в США наносят прямой и глубокий ущерб технологической конкурентоспособности страны, особенно на фоне амбиций Китая . Вместо того чтобы привлекать лучшие умы планеты, американская визовая система выстраивает искусственные барьеры, выталкивая перспективные кадры обратно.

По мнению Тонер, сокращение научного финансирования и ужесточение визовых процедур для исследователей из таких ключевых регионов, как Китай или Индия, серьезно ослабляют инновационную экосистему США . В геополитической перспективе способность удерживать лучших инженеров внутри страны является гораздо более мощным стратегическим преимуществом, чем любые оборонные или чисто торговые ограничения.

«Аренда вместо продажи»: новый подход к контролю над физическими чипами 52:46

Традиционная модель дистрибуции полупроводников — продажа физических микросхем — стремительно теряет свою геополитическую эффективность. Хелен Тонер обращается к концепции «арендовать, а не продавать» (rent, don't sell), которую ранее в подкасте подробно разбирал аналитик Леннарт Хайм . Суть идеи заключается в переходе от экспорта физического оборудования к предоставлению контролируемого облачного доступа к вычислительным мощностям.

Когда США продают передовые чипы за рубеж, они мгновенно теряют над ними физический контроль. В случае же облачной аренды Вашингтон сохраняет возможность:

• Отслеживать характер задач, выполняемых на арендованных мощностях;

• Проводить верификацию конечных пользователей;

• Оперативно блокировать или полностью отключать доступ при нарушении правил безопасности .

Такой подход позволяет не только сохранять коммерческую выгоду, но и оставляет за США ключевой рычаг управления технологией. Полная блокировка экспорта физических чипов лишь подтолкнула бы другие страны к поиску альтернативных каналов поставок . Ранее в разговоре Хелен уже касалась темы экспортных ограничений, и инцидент с тем, как китайская Huawei смогла получить передовые чипы от тайваньской TSMC в обход запретов , наглядно доказывает ненадежность контроля над физическими цепочками поставок. Облачный контроль («rent, don't sell») предлагает гораздо более надежный компромисс .

Экспансия в Персидский залив: риски ИИ-сделок с авторитарными режимами 55:54

Особое беспокойство Хелен Тонер вызывают недавние сделки американских компаний по строительству гигантских дата-центров на Ближнем Востоке, в частности в ОАЭ и Саудовской Аравии . Эти соглашения позиционируются как способ закрепить американское технологическое влияние в регионе, однако они несут в себе колоссальные геополитические риски. Обе эти страны являются жесткими автократиями . Тонер напоминает об убийстве журналиста Джамаля Хашогги прямо в здании саудовского консульства , фиктивных выборах, отсутствии демократических институтов и жесткой эксплуатации мигрантов, на труде которых держатся эти государства .

Попытки американских техногигантов оправдать подобные сделки заявлениями о «строительстве ИИ на демократических рельсах» выглядят как банальный корпоративный пиар . На практике передача передовых вычислительных мощностей монархиям Персидского залива дает огромную власть правителям, чьи интересы фундаментально расходятся с западными ценностями . Более того, эти режимы поддерживают тесные экономические и технологические связи с Пекином. Существует реальная угроза того, что Китай получит доступ к ценным ИИ-ресурсам и весам моделей через эти площадки, обойдя любые американские запреты .

Угроза монополизации AGI: почему концентрация ИИ-мощностей опасна для общества 1:08:07

По мере приближения к созданию сильного искусственного интеллекта (AGI) ключевым вызовом становится беспрецедентная концентрация власти . Доминирующая сегодня парадигма масштабирования (scaling hypothesis) требует гигантских финансовых затрат на закупку оборудования и энергоснабжение . Это создает колоссальный порог входа, который автоматически отсекает независимых исследователей и оставляет технологию в руках узкого круга сверхбогатых корпораций и государств .

Тонер предупреждает: исторический опыт показывает, что сверхконцентрация ресурсов и контроля в руках единичных игроков никогда не приводила к хорошим последствиям для общества . Возникает глубокий раскол между техно-оптимистами и сторонниками жесткого регулирования. Хелен ссылается на концепцию из книги Вирджинии Пострел «Будущее и его враги» , где описывается противостояние динамизма (гибкого развития) и стазиса (стремления к тотальной централизации и контролю) . Попытки управлять развитием AGI из единого центра могут затормозить здоровые инновации, но пустить процесс на самотек в условиях корпоративной монополии еще опаснее. Нам необходимо искать механизмы распределения и диффузии этой власти .

🛡️ Путь «управляемого хаоса» и адаптационные буферы безопасности 1:18:49

🧪 Спор об экзистенциальной угрозе: «Сценарий терминатора» против постепенной адаптации 1:18:49

Дискуссия вокруг безопасности искусственного интеллекта глубоко поляризована. Как отмечает Роб Уиблин, сообщество разделилось в оценке вероятности катастрофического сценария: для одних этот риск составляет ничтожные 1 из 1000, в то время как для других он достигает пугающих 50% . Хелен Тонер указывает, что в условиях такого колоссального расхождения в базовых предпосылках выработка единой государственной политики сильно усложняется. Тем не менее, существует консенсус по базовым шагам, среди которых ключевым является повышение прозрачности и раскрытие информации со стороны ИИ-лабораторий . Это позволило бы сформировать объективную картину того, какие системы разрабатываются на самом деле .

Важным элементом этой дискуссии является концепция «пробивания насквозь» (muddling through) . Вместо веры в то, что человечество способно превентивно разработать идеальное техническое решение для контроля над сверхразумом, эта стратегия предполагает постепенное приспособление к возникающим кризисам по мере их поступления — аналогично тому, как мир справился с угрозой ядерного оружия . Разница во взглядах часто упирается в то, воспринимаем ли мы ИИ как автономного «агента» или как высокоэффективный «инструмент» в руках человека . При этом Тонер подчеркивает важность эмпирических исследований интерпретируемости моделей, где ученым приходится действовать методом проб и ошибок, а не строго по инженерным чертежам .

🚫 Неизбежность распространения моделей и крах концепции нераспространения 1:30:16

Традиционный подход к безопасности ИИ часто заимствует логику из сферы нераспространения ядерного оружия. Однако Хелен Тонер утверждает, что эта аналогия принципиально не работает в мире программного обеспечения . Если передовая модель создана, ее утечка, кража или повторное создание другими игроками — лишь вопрос времени. Рано или поздно мощные ИИ-инструменты станут дешевыми, доступными и простыми в использовании для широкого круга лиц .

В таких условиях попытки установить тотальный контроль над весами моделей или ограничить доступ к открытому исходному коду обречены на провал. Злоумышленники всегда найдут способ обойти цифровые барьеры . Именно поэтому Хелен Тонер предлагает радикальный сдвиг парадигмы: вместо того чтобы пытаться удержать технологии в абсолютном секрете, необходимо инвестировать в повышение устойчивости самого общества. Это подводит нас к концепции адаптационных буферов безопасности ИИ .

🛡️ Адаптационные буферы: защита мишеней, а не оружия 1:33:14

Суть концепции «адаптационных буферов» (adaptation buffers) заключается в том, чтобы сделать общество устойчивым к атакам и злоупотреблениям с использованием ИИ, укрепляя оборонительные рубежи в критических сферах . Вместо фокусировки исключительно на гипотетическом «выходе ИИ из-под контроля» (misalignment), Тонер призывает обратить внимание на вполне осязаемые риски злонамеренного использования (misuse) технологий человеком .

Адаптационные буферы предлагают инвестировать ресурсы не в запреты моделей, а в модернизацию инфраструктуры защиты реального мира. Например, если существует угроза использования ИИ для создания нового биологического оружия , наиболее эффективным ответом будет не попытка запретить ИИ-моделям «знать» биологию, а внедрение повсеместного скрининга синтеза нуклеиновых кислот на уровне провайдеров ДНК-печати . В таком сценарии, даже если злоумышленник сгенерирует опасный патоген с помощью ИИ, он просто не сможет физически напечатать его в лаборатории .

Аналогичный подход применим и к кибербезопасности. Автоматизация защиты сетей и быстрое исправление уязвимостей должны опережать наступательный потенциал ИИ-хакеров .

🧬 Разделение угроз: почему защита эффективнее запретов 1:33:43

Тонер подчеркивает, что в дискуссиях об ИИ часто смешивают две принципиально разные модели угроз: сценарии утери контроля над сверхразумом и сценарии мгновенного масштабирования человеческой злонамеренности . Внедрение адаптационных мер позволяет адресовать обе эти проблемы, повышая общую устойчивость цивилизации.

Основные направления создания адаптационных буферов включают:

• Биозащита: Усиление контроля над цепочками поставок биоматериалов и обязательный аудит заказов на синтез генов .

• Кибероборона: Переход на автоматизированные системы обнаружения вторжений и быструю генерацию патчей безопасности, способные противостоять ИИ-агентам в реальном времени .

• Устойчивость институтов: Разработка протоколов верификации информации и защиты критической инфраструктуры от дезинформационных кампаний.

Вместо того чтобы надеяться на идеальную безопасность самих ИИ-систем, человечеству необходимо выстроить глубоко эшелонированную оборону реального мира. Это позволит минимизировать ущерб даже в тех случаях, когда ИИ-модели будут скомпрометированы или намеренно использованы во вред . Хотя подобные меры обороны критически важны и для государственных структур, процесс внедрения технологий в оборонный сектор сталкивается со своими специфическими бюрократическими препятствиями, о которых пойдет речь далее.

5. Бюрократия Пентагона, эволюция Конгресса и коммерческий разворот OpenAI 1:41:41

Военный ИИ: организационные барьеры и проблема управляемости в Пентагоне 1:41:41

Интеграция передовых технологий искусственного интеллекта в оборонную сферу США сталкивается со сложными вызовами, которые лежат далеко за пределами чистых вычислений. Как отмечает Хелен Тонер (Helen Toner), процесс внедрения ИИ-систем для поддержки военных решений натыкается на серьезные организационные препятствия и глубоко укоренившиеся, устаревшие правила закупок внутри Министерства обороны США . Военная машина неохотно адаптируется к гибкому циклу разработки софта, привыкнув закупать физическое аппаратное обеспечение по многолетним контрактам.

Помимо бюрократии, министерство сталкивается с жесткими требованиями к безопасности цепочек поставок. Использование зарубежных компонентов, особенно китайского происхождения, полностью исключено из соображений национальной безопасности . Внедрение автономных систем также поднимает фундаментальные вопросы о границах контроля: должен ли ИИ беспрекословно выполнять жесткие команды оператора или ему следует предоставить определенную автономию для принятия решений в меняющейся боевой обстановке ? Проблема усугубляется технической уязвимостью моделей. Вредоносное воздействие со стороны противников может не только нарушить работу ИИ, но и заставить систему обманом склонить человека-оператора к нежелательным действиям . При этом младший состав военнослужащих традиционно обучается строго выполнять приказы сверху, что снижает их способность критически оценивать потенциальные сбои автономных систем на поле боя .

В контексте безопасности Хелен Тонер предлагает пересмотреть устоявшуюся терминологию. Она считает популярный термин «согласование» (alignment) не совсем удачным для практической политики . Слово «согласование» ошибочно предполагает существование некоего единого, заранее определенного набора ценностей, под который можно подогнать модель . Вместо этого Тонер предлагает использовать понятия «управляемость» (controllability) или «направляемость» (steerability) . Это смещает фокус на конкретные технические возможности операторов вмешиваться в работу системы и корректировать ее поведение как на этапе обучения, так и непосредственно в процессе эксплуатации .

От ликбеза к экзистенциальным угрозам: как Конгресс США осознал масштаб ИИ 1:47:27

За последние годы отношение американских законодателей к технологиям искусственного интеллекта претерпело кардинальную трансформацию. Еще недавно члены Палаты представителей и Сената США воспринимали ИИ сквозь призму базовых технологических концепций. Однако после публичного релиза ChatGPT ситуация резко изменилась, и политики на Капитолийском холме были вынуждены пройти экстренный курс обучения .

Сегодня дискуссии в Конгрессе вышли на принципиально новый уровень зрелости. Вместо абстрактных разговоров законодатели ведут предметные дебаты с лидерами индустрии, прямо задавая вопросы о том, как контролировать создание сверхинтеллекта и предотвратить системные экзистенциальные риски . По оценке Хелен Тонер, 2023 год стал переломным моментом, когда политический дискурс разделился на два лагеря с принципиально разным видением масштаба грядущих изменений . На смену поверхностному непониманию пришел глубокий анализ того, насколько сильной окажется социальная и экономическая дестабилизация от массового внедрения ИИ-технологий в ближайшие годы .

Иллюзия замедления: стабильный темп прогресса ИИ и постепенные релизы 1:50:01

В публичном пространстве периодически возникают разговоры о том, что темпы развития ИИ начинают снижаться. Однако Хелен Тонер не видит никаких объективных признаков замедления технологического прогресса . Она подчеркивает, что с момента изобретения архитектуры трансформера в 2017 году отрасль демонстрирует стабильный, непрерывный подъем по экспоненте сложности .

Восприятие замедления — это скорее психологический эффект смены бизнес-моделей ведущих лабораторий. Вместо редких демонстраций гигантских технологических скачков (каким был выход GPT-4) компании перешли к стратегии частых, но постепенных и постепенных инкрементальных обновлений . Тонер ссылается на авторитетные графики исследовательской группы Epoch, которые наглядно подтверждают эту тенденцию .

В экспертном сообществе сейчас борются два основных взгляда на будущее индустрии:

• Оптимисты экспоненты, ожидающие лавинообразного самовыстраивающегося ускорения, при котором системы ИИ начнут сами проектировать следующие поколения ИИ [1:54:35, 1:55:19].
• Сторонники физических ограничений, указывающие на неизбежные барьеры в виде дефицита качественных данных, чипов и электроэнергии . Они трактуют любые временные неудачи передовых моделей (например, проблемы с планированием у версий уровня GPT-5 или Claude 4.5) как признак скорого плато .

Сама Тонер призывает смотреть на картину масштабно: общий прогресс огромен, а реальные социально-экономические последствия этих технологий нам еще только предстоит полностью осознать . Чтобы оставаться в курсе этого стремительного потока изменений, сама Хелен опирается на регулярный мониторинг профильных рассылок и Substacks, агрегирующих ключевые политические и технические новости .

Коммерческая реструктуризация OpenAI и кризис некоммерческого контроля 1:57:53

Ранее в разговоре собеседники вскользь касались драматических событий вокруг увольнения Сэма Альтмана и культурных различий между Кремниевой долиной и Вашингтоном . На фоне этих процессов особое беспокойство экспертов вызывает возможная реструктуризация корпоративной модели OpenAI. Планы компании по выделению коммерческого подразделения в самостоятельную структуру и потенциальное ослабление роли некоммерческой материнской организации ставят под удар первоначальную миссию стартапа .

Вокруг OpenAI уже сформировалась целая экосистема независимых наблюдателей, отслеживающих качество корпоративного управления . Главный юридический и этический вопрос заключается в том, сможет ли некоммерческий совет директоров сохранить реальные рычаги контроля над коммерческим сектором в новой структуре . По уставу OpenAI обязательства перед некоммерческой частью и миссией создания безопасного ИИ на благо всего человечества должны превалировать над интересами инвесторов . Однако на практике, когда на кону стоят сотни миллиардов долларов коммерческой прибыли, совет директоров фактически оказывается в ситуации «переговоров с самим собой», пытаясь совместить несовместимые юридические обязательства . Подобный дуализм требует от руководителей постоянного профессионального лавирования и «переключения кодов» между циничным прагматизмом Кремниевой долины и строгими рамками национальной безопасности Вашингтона .

🧭 Навигация в мире ИИ-политики: независимость CSET, дефицит кадров и будущее технологий 2:06:54

По мере того как искусственный интеллект превращается в ключевой фактор национальной безопасности и экономического доминирования, потребность в объективной аналитике возрастает экспоненциально. Однако в сфере, где сталкиваются интересы триллионных корпораций и суверенных государств, сохранять беспристрастность становится всё сложнее. Хелен Тонер (Helen Toner) делится тем, как её аналитический центр CSET решает эти вызовы, с какими трудностями сталкиваются современные законодатели и как выглядит идеальный специалист по ИИ-политике сегодня.

Финансовая независимость и защита от корпоративного лоббизма 2:10:35

Один из главных вызовов для любого аналитического центра в Вашингтоне — сохранение интеллектуальной независимости. В сфере ИИ этот вопрос стоит особенно остро, так как индустрия переполнена коммерческими интересами . Как отмечает Хелен Тонер, CSET с самого начала выстраивал жесткие внутренние барьеры, чтобы исключить влияние спонсоров на результаты исследований .

Центр крайне избирательно подходит к источникам финансирования, полностью изолируя исследовательский процесс от внешнего давления . Это критически важно, учитывая масштабы корпоративного влияния на политические решения. В качестве примера Тонер приводит лоббистскую кампанию Nvidia вокруг экспортных ограничений (тема, которую собеседники подробно разбирали в начале разговора) . Чтобы давать объективные рекомендации правительству, аналитики должны быть полностью свободны от коммерческой ангажированности .

Законодательные инициативы: от SB 1047 к новым стандартам 2:11:31

Попытки регулирования ИИ на уровне штатов, особенно в Калифорнии, становятся важнейшим полигоном для обкатки будущих федеральных правил. Хелен Тонер обращает внимание на развитие ситуации вокруг резонансного калифорнийского законопроекта SB 1047 и его преемников . После того как первоначальный проект столкнулся с серьезным сопротивлением и вето губернатора Гэвина Ньюсома, была создана специальная экспертная комиссия для поиска консенсуса .

Новые законодательные инициативы предлагают более мягкие, но при этом более консенсусные шаги по сравнению с радикальным SB 1047 . По мнению Тонер, калифорнийские инициативы могут сыграть для США роль, аналогичную европейскому регламенту GDPR, задав высокие стандарты безопасности, которым технологическим гигантам придется подчиниться де-факто . Роль CSET в этом процессе заключается в предоставлении точных данных для оценки регулирующего воздействия таких законов.

Ликбез для политиков и борьба с заблуждениями 2:17:33

В обществе популярен стереотип о том, что государственные чиновники и конгрессмены абсолютно некомпетентны в технологических вопросах. Хелен Тонер категорически не согласна с этим мнением . Проблема заключается не в глупости политиков, а в колоссальном дефиците времени: типичный законодатель вынужден ежедневно принимать решения по десяткам сложнейших тем — от сельского хозяйства до ядерного сдерживания .

Для преодоления этого барьера CSET активно разрабатывает ознакомительные материалы «нулевого уровня», которые объясняют сложные концепции ИИ без использования сложного технического жаргона . Главная задача — помочь политикам понять:

• В чем разница между ИИ как простым прикладным инструментом и ИИ как автономным агентом ;
• Почему современные модели демонстрируют непредсказуемое эмерджентное поведение ;
• Как оценивать риски, связанные с выполнением многошаговых и комплексных задач .

Карьерный путь в AI Policy и новые вакансии CSET 2:07:26

Сектор политики в области ИИ сейчас переживает бурный рост, привлекая множество новых лиц, что делает конкуренцию более жесткой . Для тех, кто хочет войти в эту индустрию, Тонер рекомендует активно использовать открытые платформы данных, включая публичный портал CSET .

Идеальный кандидат в сфере ИИ-политики должен обладать уникальным сочетанием навыков: иметь практический опыт взаимодействия с современными моделями (понимать их ограничения на личном опыте) и одновременно глубоко разбираться в механизмах государственного управления .

CSET, выросший из крошечной инициативы в Вашингтоне до организации штатом более 50 человек, продолжает активно расширяться . В настоящее время центр открывает новые вакансии:

• Аналитики в области передовых систем ИИ (Frontier AI) ;
• Специалисты по коммуникациям и связям с общественностью .

Подводя итог многолетней работы, Хелен Тонер выражает надежду, что к началу следующего десятилетия человечеству удастся выстроить надежную и безопасную архитектуру сосуществования с передовым искусственным интеллектом .