# Иэн Бреммер: «С ИИ у нас нет поколений на исправление курса, есть считанные годы»

Источник: https://www.youtube.com/watch?v=YXqI5ROVpIA
Канал: Eye on AI
Опубликовано: 07.02.2024

---

В новом выпуске подкаста Eye on AI известный американский политолог и президент Eurasia Group Иэн Бреммер обсудил с ведущим Крейгом Смитом глобальные вызовы регулирования искусственного интеллекта. В центре дискуссии — неизбежность формирования технополярного мироустройства, где технологические гиганты обретают цифровой суверенитет, а также перспективы сотрудничества и соперничества между США и Китаем в сфере контроля над опасными технологиями. Спикер предлагает прагматичный взгляд на международные институты и объясняет, почему классические методы сдерживания здесь не сработают.

## 🌍 От «человека-Евразии» до эксперта ООН: путь Иэна Бреммера
[[JUMP:02:37]]

Ведущий подкаста Крейг Смит начал беседу с краткого экскурса в историю создания Eurasia Group. Иэн Бреммер поделился, что его организация развивалась на протяжении 26 лет. Первоначально проект был исключительно индивидуальным, и, по воспоминаниям Бреммера, название «Eurasia Group» поначалу звучало как курьез, поскольку вся компания состояла из одного человека — «парня по Евразии». Со временем, по мере роста спроса со стороны клиентов на академические политологические исследования, фирма трансформировалась в глобальную структуру. На сегодняшний день в штате Eurasia Group работает около 250 специалистов по всему миру. Бреммер подчеркнул, что его мотивация основана на стремлении понять устройство современного мира, который, по его оценке, становится все более опасным местом.

В настоящее время Бреммер активно вовлечен в процессы формирования международной политики в сфере искусственного интеллекта. Около пяти лет назад ему удалось заинтересовать этой темой Генерального секретаря ООН. Результатом этого взаимодействия стало создание Консультативного органа высокого уровня по ИИ при ООН, где Бреммер входит в состав исполнительного комитета и выполняет функции докладчика (rapporteur). По признанию самого политолога, это первый случай в его жизни, когда он фактически выступает в роли разработчика практической политики, хотя сам себя в таком качестве не воспринимает.

## ⚡ Технополярный мир и отставание регуляторов
[[JUMP:04:18]]

Основой для обсуждения регуляторных механизмов стала совместная статья Иэна Бреммера и Мустафы Сулеймана, опубликованная в журнале Foreign Affairs. В этой работе авторы предложили трехступенчатую структуру регулирования ИИ, которая, по утверждению Бреммера, легла в основу многих последующих международных инициатив в этой области. Тем не менее, спикер призывает к смирению относительно возможностей государственного контроля, учитывая беспрецедентную скорость развития технологий.

### Факторы цифрового суверенитета корпораций

Бреммер выделяет несколько ключевых факторов, осложняющих регулирование:

* **Отсутствие стимулов к замедлению**: Руководители технологических компаний не заинтересованы в торможении процессов; высокая конкуренция и значительное финансирование заставляют их двигаться максимально быстро.
* **Цифровой суверенитет**: В рамках концепции «технополярного мира» цифровое пространство контролируется не государствами, а корпорациями. Именно они единолично определяют базовые модели ИИ, правила использования данных и алгоритмы взаимодействия с гражданами и потребителями.

### ИИ против климата: разница в скоростях

По мнению Бреммера, технологии развиваются значительно быстрее, чем регуляторные институты. Хотя за последние 12 месяцев вопросы ИИ вошли в топ-5 приоритетов мировых лидеров, государства начали действовать со значительным опозданием. Бреммер проводит ключевое различие между кризисом ИИ и климатическими изменениями:

> «В вопросах климата мы начали поздно, но этот процесс сравнительно медленный. В принципе, у нас есть годы, чтобы удержать потепление в пределах 1,5 градусов, и десятилетия на исправление курса. С ИИ у нас нет поколений. У нас есть считанные годы».

## 🚫 Почему глобальный запрет на развитие ИИ невозможен
[[JUMP:09:17]]

Крейг Смит привел в пример позицию исследователя Коннора Лихи (сооснователя EleutherAI), который сравнивает регулирование ИИ с международным запретом на клонирование человека и предлагает установить жесткие лимиты на объем вычислительных мощностей (FLOPS), используемых при обучении моделей. Однако Бреммер категорически отвергает реализуемость подобного сценария.

С точки зрения политической науки Бреммер сравнивает текущую ситуацию с ядерным оружием в эпоху Холодной войны: когда США и СССР уже накопили арсеналы, призывы к полному запрету стали нереалистичными, несмотря на то, что риск уничтожения человечества из-за сбоев оценивался как один к трем. «Джинн выпущен из бутылки, и мы не можем его прогнать заклинаниями», — утверждает эксперт. В индустрии задействовано слишком много денег, геополитическое соперничество обострено, и логика государств сводится к тезису: если этого не сделаем мы, это сделает кто-то другой. Спикер напомнил о знаменитом открытом письме ученых с призывом приостановить разработки ИИ, которое, как и ожидали эксперты, не привело ни к каким практическим результатам.

Бреммер сообщил, что за несколько месяцев работы Консультативного органа ООН по ИИ вопрос о полном запрете или жестком ограничении вычислительных мощностей ни разу не поднимался ни в одной рабочей группе. Причина кроется в понимании специфики ООН:

* У Организации Объединенных Наций нет реальной исполнительной власти.
* У ООН нет крупных финансовых ресурсов.
* Главная ценность ООН заключается в ее глобальной легитимности, способности собирать всех игроков за одним столом и формировать единую аналитическую картину происходящего (ground truth).

Развивая мысль о гипотетическом соглашении между США, Китаем, Россией и Францией по ограничению вычислительных мощностей, Бреммер отметил, что такой сценарий зависит от характера диффузии технологий. Если обучение передовых моделей (AGI) продолжит требовать колоссальных затрат энергии и логарифмического роста стоимости инфраструктуры, то технология останется монополией правительств США и Китая и их крупнейших технокомпаний. В таком случае международный договор не понадобится, а стабильность будет поддерживаться за счет механизмов взаимного гарантированного уничтожения и двусторонних договоренностей.

При этом сам Бреммер заявляет, что его не беспокоит концепция обретения ИИ сознания или восстания роботов. Его реальный страх связан с тем, что люди используют ИИ для уничтожения планеты. Инструменты ИИ скоро окажутся в руках каждого человека, и общество совершенно не готово к политическим, социальным и оборонным последствиям этого процесса.

## ⚖️ Ответственность разработчиков: кто должен платить за социальные издержки?
[[JUMP:20:11]]

В ходе интервью была поднята острая тема юридической ответственности создателей моделей. Крейг Смит провел параллели с другими отраслями в США, где производители оружия и социальные сети исторически освобождены от ответственности за ущерб, а индустрия пластика переложила бремя утилизации на потребителей.

### Капитализация прибыли и социализация убытков

Бреммер согласился с тем, что разработчики ИИ должны нести ответственность, однако указал на системный порок американской экономической модели:

> «Американцы — потрясающие капиталисты, когда дело касается прибыли. Мы знаем, как строить меняющие мир предприятия, и заботимся о выгоде акционеров. Но когда речь заходит о потерях, мы являемся лучшими в мире социалистами. Мы очень хотим социализировать эти потери, переложить их на плечи общества, причем желательно на будущие поколения, чтобы платили наши дети».

По мнению спикера, аналогичный провал уже произошел с социальными сетями, которые подрывают американскую democracy и экспортируют деструктивные инструменты по всему миру. Если бы речь шла о вакцинах или генетически модифицированных продуктах, государство потребовало бы жестких предварительных испытаний перед допуском на рынок. В случае с цифровыми технологиями тестирование происходит в реальном времени на живых обществах.

### Тестирование моделей и уроки соцсетей

Бреммер настаивает на необходимости внедрения следующих мер:

* **Обязательное тестирование базовых моделей** силами независимых внешних экспертов.
* **Проверка бизнес-моделей на безопасность для общества** (red teaming) еще до массового релиза.
* **Введение правовых механизмов возмещения ущерба**, чтобы компании оплачивали социальные издержки своего бизнеса.

Говоря о международной практике, Бреммер отметил, что даже в Европейском союзе, где подходы к регулированию традиционно жесткие, Франция и Германия активно выступают против чрезмерных ограничений для разработчиков, поскольку стремятся защитить собственные молодые компании-«единороги» от отставания от американских конкурентов. В США же политическая культура ориентирована на иные методы: сначала были зафиксированы добровольные обязательства корпораций перед Белым домом, а затем выпущен президентский указ, который не является полноценным законом, но задает рамки здравого смысла.

## 🤝 Гибридная модель регулирования и уроки климатического процесса
[[JUMP:28:33]]

Иэн Бреммер считает маловероятным появление в ИИ-индустрии стандартов безопасности, аналогичных авиационной или автомобильной промышленности, где продукт нельзя выпустить на рынок до получения государственных сертификатов. Вместо этого он предлагает гибридную модель взаимодействия государства и бизнеса. Чиновники не обладают достаточной экспертизой и не поспевают за изменениями, поэтому технологические компании обязаны сидеть за столом переговоров. При этом государство должно сдерживать их эгоистичные импульсы.

Ближайшим аналогом такого подхода Бреммер называет климатический процесс в рамках конференций COP. Этот механизм позволил 193 странам мира прийти к консенсусу относительно антропогенного характера глобального потепления и сформировать единую базу фактов. Однако регулирование ИИ имеет принципиальные отличия:

* В климатической сфере интересы нефтегазовых компаний были сугубо враждебными регуляторам, поскольку цель соглашений — прекращение использования ископаемого топлива. В сфере ИИ цели бизнеса и государства могут совпадать, так как все признают потенциал технологии для улучшения жизни людей.
* Климатические отчеты публикуются раз в год, в то время как архитектура управления ИИ должна быть гибкой и обновляться непрерывно, включая в себя элементы «созидательного разрушения» по мере эволюции алгоритмов.

## 🇨🇳 Геополитический разлом: США, Китай и фактор открытого кода
[[JUMP:35:16]]

На вопрос о том, почему бы правительству США не запустить собственный аналог «Манхэттенского проекта» по созданию государственной базовой модели ИИ для конкуренции с частным сектором, Бреммер ответил, что не имеет идеологических возражений, но видит практические препятствия. Государственная машина США слишком медлительна, поляризована и уязвима к смене электоральных и финансовых циклов.

### Альтернатива «Манхэттенскому проекту»: три задачи для Вашингтона

Вместо создания госструктур Бреммер предлагает сфокусировать промышленную политику США на трех направлениях:

1.  **Реформа легальной иммиграции**: США проигрывают борьбу за мировые таланты из-за бюрократических препон. Ученые и инженеры все чаще выбирают Канаду, Индию или Сингапур.
2.  **Предоставление государственных дата-сетов**: Правительство обладает уникальными архивами данных (например, в Национальных институтах здравоохранения — NIH), доступ к которым необходимо открыть университетам и стартапам.
3.  **Финансирование общественных благ**: Частный капитал инвестирует только туда, где есть быстрая прибыль. Государство должно финансировать фундаментальные исследования, которые не вписываются в коммерческие бизнес-модели, например, обратный инжиниринг мозга живых организмов.

### Дилемма открытого кода и американо-китайский компромисс

В дискуссии об открытом исходном коде (Open Source) Бреммер частично соглашается с позицией Яна Лекуна из Meta о неизбежности победы открытых моделей. Страны уровня Армении или Грузии, равно как и Китай, не захотят зависеть от закрытых американских корпоративных платформ. Им необходимы собственные модели, обученные на локальных данных и отражающие их культурные нормы. В то же время позиция Джеффа Хинтона, сравнивающего публикацию открытого кода ИИ с распространением чертежей термоядерного оружия, подчеркивает риски этой тенденции. 

Бреммер считает, что международное сообщество столкнется с системными кризисами, вызванными действиями отдельных игроков, и регулирование ИИ будет напоминать контроль над глобальными финансовыми рынками: несмотря на разные системы, в моменты кризисов США и Китай будут вынуждены действовать сообща ради сохранения стабильности.

В долгосрочной перспективе Бреммер видит главный вызов в вопросе собственности на персональные данные. Когда у каждого человека появится индивидуальный ИИ-ассистент, обученный на его личной информации, критически важно определить, кому принадлежат эти данные — пользователю или корпорации, управляющей платформой. На данный момент этот ответ формируется бизнес-моделями, а не государствами.

Завершая обсуждение перспектив американо-китайских отношений, Бреммер отметил, что Пекин сейчас больше заинтересован в регулировании ИИ, чем Вашингтон. Это связано со стремлением Коммунистической партии Китая сохранить тотальный контроль над информационным пространством. Китай демонстрирует конструктивный подход в ООН и согласился на экспертный диалог в формате Track 1.5 после встречи Джо Байдена и Си Цзиньпина на саммите АТЭС. Главным препятствием для полноценного сотрудничества остаются жесткие экспортные ограничения США на поставку чипов и облачные вычисления. Если Вашингтон продолжит эту политику, Китай, отстающий сейчас на 5–10 лет, будет вынужден полностью импортозаместить технологии, что может сорвать любые глобальные регуляторные инициативы.