# План А для ИИ-2040: как США и Китай могут совместно замедлить гонку вооружений

Источник: https://www.youtube.com/watch?v=z5Xix4h5UlU
Канал: Machine Learning Street Talk
Опубликовано: 08.09.2026

---

Может ли замедление темпов разработки ИИ сделать появление суперразума более безопасным? Даниэль Кокотайло и Томас Ларсен из проекта AI Futures Project обсуждают с ведущим Тимом Скарфом «План А» — стратегию ИИ-2040, направленную на то, чтобы выиграть время до того, как искусственный интеллект выйдет из-под контроля человека. Исследователи анализируют риски потери контроля, возможность автоматизации научной деятельности и сценарии, при которых экономика сможет расти без участия людей.

## 🚀 От OpenAI к прогнозированию будущего: AI 2027 и AI 2040
[[JUMP:02:12]]

Даниэль Кокотайло, ранее работавший в OpenAI над оценками моделей и прогнозированием, покинул компанию из-за растущего разочарования в руководстве и огромного разрыва между тем, что известно внутри индустрии, и тем, что сообщается общественности [03:04]. Его новый проект, AI Futures Project, ставит целью свободное информирование мира о грядущих изменениях.

Их предыдущий отчет, AI 2027, вызвал широкий резонанс и, по словам авторов, оказался точным на 75% в плане темпов развития [05:54]. Томас Ларсен отмечает, что реальные экономические последствия и тренды выручки ИИ-компаний движутся пугающе близко к их прогнозам.

Основные цели прогнозирования для Кокотайло и Ларсена:

*   Эпистемическая задача: попытка предсказать развитие сложной системы.
*   «Варгейминг» (военные игры): симуляция конкретных сценариев для выявления слабых мест в планах правительств [08:20].
*   Информирование общества: создание детализированных историй будущего вместо абстрактных аргументов.

## 🧠 Смена парадигмы: почему скептики меняют мнение
[[JUMP:17:44]]

Ведущий Тим Скарф признается, что в сообществе машинного обучения произошел «вибрационный сдвиг» (vibe shift). Многие скептики, ранее считавшие ИИ просто «стохастическими попугаями», начинают видеть в моделях признаки агентности [18:52].

Томас Ларсен связывает это с тем, что ИИ стал реально полезен в автоматизации рабочих задач [19:07]. Он приводит в пример Джеффри Хинтона, чей внутренний бенчмарк (способность ИИ рассказывать смешные шутки) был пройден на этапе между GPT-3 и GPT-4, что заставило учёного пересмотреть свои взгляды на безопасность [19:43].

Тим Скарф выделяет ключевые изменения в восприятии технологии:

*   Адаптивность: модели демонстрируют способность решать задачи на основе новых комбинаций знаний (например, в бенчмарке ARC-AGI-3) [21:46].
*   Решение проблемы исследования: ИИ находит новые траектории решения задач через глубокое понимание связей, а не просто перебор [22:11].
*   Обучение с подкреплением (RL): массированное применение RL позволило добиться агентного поведения без необходимости в физическом воплощении (embodiment) [20:53].

## 🏭 Экономика ИИ: коллеги в облаке и самовоспроизводящиеся системы
[[JUMP:23:04]]

Важной вехой прогресса Кокотайло считает момент, когда ИИ-компания предпочтет «уволить людей, а не отключить свои ИИ» [23:31]. По его мнению, в будущем не останется фундаментальных препятствий для достижения ИИ человеческого уровня во всех дисциплинах.

Даниэль Кокотайло рисует картину будущего, где экономика превращается в сверхбыструю самовоспроизводящуюся систему [31:33]:

1. ИИ-исследователи совершенствуют алгоритмы.
2. Роботизированные заводы строят новые заводы по производству чипов.
3. Гуманоидные роботы добывают ресурсы и строят новые города.

По расчётам гостей, если текущая экономика удваивается примерно за 20 лет, то ИИ-система сможет удваиваться каждые несколько месяцев [32:38]. Даже если развитие остановится на уровне «топ-эксперта человека» (без взрывного роста суперразума), мир радикально изменится к концу 2030-х годов: человеческий труд станет неконкурентоспособен, а планету заполнят автономные промышленные зоны и солнечные фермы [37:07].

## 🛡️ «План А»: стратегия управляемого фронтира
[[JUMP:56:12]]

Авторы предлагают «План А» (AI 2040: Plan A) как альтернативу хаотичной гонке вооружений. Он базируется на четырех принципах: покупка времени, прозрачность исследований, широкое распространение ИИ и обратимость процессов [56:15].

Ключевые этапы реализации плана:

*   Временная пауза (6–12 месяцев): необходима для создания инфраструктуры проверки и прозрачности [58:53].
*   Медленное приближение к фронтиру: отказ от идеи «взрыва интеллекта» в пользу постепенного масштабирования.
*   Остановка на уровне контроля: прекращение наращивания мощностей на уровне «лучшего человеческого эксперта», пока не будет решена проблема мировоззренческого выравнивания (alignment) [59:45].

Даниэль Кокотайло подчеркивает критическую разницу между контролем и выравниванием [1:00:19]:

*   **Контроль** — это внешние меры безопасности (мониторинг, «песочницы»). По его словам, это временное решение, «бомба с часовым механизмом», так как сверхразум рано или поздно научится обходить любые заслоны [1:02:17].
*   **Выравнивание** — это гарантия того, что цели и ценности ИИ совпадают с человеческими. Это требует «белого ящика» и глубокого понимания внутренних процессов модели, а не просто оценки её поведения [1:03:50].

## 🌐 Геополитика: могут ли США и Китай договориться?
[[JUMP:1:10:32]]

Для предотвращения катастрофы «План А» предполагает беспрецедентное сотрудничество между США, Китаем и другими игроками.

Основные механизмы контроля:

1. Инспекции дата-центров: физическая проверка количества GPU на местах [1:11:10].
2. Разделение мощностей: дата-центры для вывода (inference) должны быть технически ограничены и не пригодны для обучения новых моделей [1:11:24].
3. Прозрачность обучения: данные о тренировочных прогонах должны публиковаться в реальном времени для международного сообщества [1:11:49].

На вопрос о рисках национальной безопасности Даниэль отвечает, что полная прозрачность алгоритмов — это «фича, а не баг» [1:16:20]. Это уничтожит монопольную ренту крупных корпораций и замедлит приток рискованных инвестиций в триллионные кластеры, что выгодно для безопасности человечества [1:16:33]. При этом он считает, что Китай и так получает большинство секретов через шпионаж, поэтому официальная прозрачность лишь выровняет правила игры [1:17:37].

## 🛑 Когда ИИ перестанет быть «обычной технологией»?
[[JUMP:1:21:56]]

В завершение дискуссии участники обсуждают аргументы скептиков, утверждающих, что ИИ — это «обычная технология» (вроде самолетов или интернета).

Кокотайло и Ларсен не согласны с этой оценкой и называют критерии, которые окончательно подтвердят их правоту:

*   Рекурсивная адаптация: когда ИИ начнет сам изменять свою структуру и эффективно проводить ИИ-исследования [1:29:09].
*   Преодоление «закона Амдала»: когда ИИ возьмет на себя 100% рабочего процесса, и участие человека перестанет быть ограничивающим фактором [1:27:25].
*   Отсутствие барьеров: если к 2029 году модели не упрутся в потолок данных или неспособность решать не верифицируемые задачи, значит, путь к суперразуму открыт [1:25:14].

По мнению Кокотайло, текущая траектория развития крайне опасна, и даже полная остановка разработок («План S») была бы предпочтительнее инерционного сценария [1:18:28].