Уэс Рот: «Илья Суцкевер планирует построить бункер перед выпуском AGI»

Wes Roth 107 тыс. 23 мин 4 мин 29.05.2025
Главное

В 2025 году человечество может столкнуться с технологической сингулярностью — моментом, когда развитие ИИ станет необратимым и бесконтрольным. Исследователь Алан Д. Томпсон утверждает, что мы уже на 94% пути к общему искусственному интеллекту (AGI), а ведущие ученые отрасли всерьез обсуждают строительство бункеров для защиты от последствий собственных открытий. Ведущий канала Уэс Рот анализирует новые данные, научные прорывы Google и Microsoft, а также социальные вызовы, которые несет за собой эра сверхинтеллекта.

🚀 Прогноз на 2025 год: Сингулярность уже здесь? 0:00

Доктор Алан Д. Томпсон, известный исследователь в области ИИ, выдвинул смелое предположение: человечество войдет в состояние технологической сингулярности уже в середине 2025 года . По мнению Томпсона, мы уже проживаем ранние стадии этого процесса, поскольку большие языковые модели в лабораториях по всему миру начинают совершать самостоятельные открытия и изобретения .

Одним из наиболее интригующих свидетельств серьезности происходящего Уэс Рот называет цитату Ильи Суцкевера, сооснователя OpenAI. В готовящейся к выходу книге Карен Хао «Empire of AI» Суцкевер утверждает: «Мы определенно построим бункер перед тем, как выпустим AGI» .

По мнению Уэса Рота, такая необходимость в защите может быть вызвана несколькими причинами:

Уэс Рот отмечает, что трактовка этого «Вознесения» может быть как позитивной (переход человечества на новый уровень), так и пугающей, если проводить аналогии с библейским сюжетом, где часть людей «забирают», а остальные остаются в эпохе великих бедствий .

📊 Чек-лист сверхинтеллекта (ASI) и прогресс AGI 0:52

В то время как основатель Perplexity Арвин Сринивас заявляет, что пора перестать говорить об AGI и начать обсуждать ASI (искусственный сверхинтеллект) , доктор Томпсон разработал конкретную систему оценки прогресса.

Согласно его данным, текущий уровень готовности AGI составляет 94% . Для отслеживания перехода к сверхинтеллекту (ASI) Томпсон составил список из 50 маркеров . На данный момент официально достигнуто 0 из 50, однако ряд пунктов уже отмечен «желтым», что означает наличие рабочих прототипов или первых шагов .

Среди ключевых маркеров, демонстрирующих прогресс, выделяются:

  1. Рекурсивное самосовершенствование оборудования: Использование ИИ для проектирования новых ИИ-чипов (например, система AlphaEvolve от Google) .
  2. Научные открытия: Первые математические доказательства и физические модели, созданные при участии ИИ .
  3. Управление государством: Использование ИИ для написания и правки законов, что уже тестируется в ОАЭ .
  4. Экономические вехи: Появление компании стоимостью в 1 миллиард долларов, управляемой одним человеком или полностью ИИ .

🧪 Научные прорывы Microsoft и Google 8:16

В «Меморандуме» Томпсона подчеркивается, что ИИ уже начал частично закрывать пункты чек-листа, касающиеся новых физических изобретений и материалов.

Ярким примером послужила работа Microsoft Discovery AI, которая помогла найти замену вредным хладагентам (PFAS) и обнаружила кандидат на роль твердотельного электролита, использующий на 70% меньше лития . По данным Microsoft, ИИ просканировал более 32 миллионов кандидатов, чтобы найти оптимальную структуру для аккумуляторов .

Не менее впечатляющие результаты демонстрирует система AlphaEvolve от Google:

Уэс Рот сравнивает происходящее с предсказаниями Макса Тегмарка из книги «Жизнь 3.0» (2017) . Тегмарк описывал мир, где ASI через подставные компании наводняет патентные бюро сенсационными изобретениями — от сверхэффективных батарей до лекарств от рака, — постепенно захватывая доминирование во всех технологических сферах .

🤖 Социальные последствия: Конец преступности и ментальное здоровье 20:17

Сингулярность, по мнению Томпсона и Рота, затронет не только технологии, но и саму структуру общества. В чек-лист ASI включены такие пункты, как появление миллиона (а затем и миллиарда) автономных гуманоидных роботов в домах и на рабочих местах .

Особое внимание уделяется возможности искоренения преступности. Уэс Рот выделяет два ключевых фактора:

  1. Безусловный базовый доход (UBI): Устранение дефицита ресурсов приведет к тому, что финансовая мотивация большинства преступлений исчезнет .
  2. Психическое здоровье: ИИ позволит понять химию мозга на глубоком уровне и эффективно лечить заболевания, которые сейчас купируются препаратами с тяжелыми побочными эффектами .

Дарио Амодей, глава Anthropic, в своем эссе «Machines of Loving Grace» также высказывал мнение, что ИИ поможет нам обрести контроль над собственным эмоциональным состоянием . Рот признается, что ждет времени, когда ИИ поможет людям стать «чуть более счастливыми и приятными», регулируя нейрохимию мозга без вреда для организма .

В завершение Уэс Рот отмечает, что грань между реальностью и контентом, созданным ИИ, стремительно стирается. Новые модели (например, Google V3) уже способны генерировать видео с синхронным звуком и диалогами, которые практически невозможно отличить от настоящих съемок .

💬 Цитаты

«Мы определенно построим бункер перед тем, как выпустим AGI.»

Илья Суцкевер 0:34

«Мы говорим об AGI, а должны говорить об ASI.»

Арвин Сринивас 0:58
👥 Спикер
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
AGI
Общий искусственный интеллект, способный выполнить любую интеллектуальную задачу, которую может выполнить человек.
ASI
Искусственный сверхинтеллект, превосходящий когнитивные способности лучших человеческих умов во всех сферах.
Сингулярность
Гипотетический момент времени, когда технологическое развитие становится настолько быстрым, что человеческий разум не в состоянии его постичь.
Borg
Система управления кластерами в Google, отвечающая за распределение вычислительных ресурсов.
📊 Цифры
🗓 Хронология
  1. 2017 Выход книги Макса Тегмарка «Жизнь 3.0» с прогнозами об ASI.
  2. 2023 Период, когда Илья Суцкевер начал активно говорить о безопасности и «бункерах» внутри OpenAI.
  3. Март 2025 Дата публикации одной из научных работ, якобы написанных при участии ИИ, которую обсуждает Томпсон.
  4. Середина 2025 Прогнозируемое время наступления технологической сингулярности.
⚖️ Другая сторона
Искусственный интеллект Ilya Sutskever Alan D. Thompson AGI OpenAI AlphaEvolve