# Бен Гертцель: «AGI появится к 2029 году, а сверхразум — почти сразу за ним»

Источник: https://www.youtube.com/watch?v=jSDEsvVdL-E
Канал: Machine Learning Street Talk
Опубликовано: 01.10.2024

---

В новом интервью для канала Machine Learning Street Talk известный исследователь Искусственного Интеллекта, основатель SingularityNET Бен Гертцель (Ben Goertzel) делится своим видением пути к созданию сильного ИИ (AGI). Он анализирует ограничения современных языковых моделей, критикует подходы к государственному регулированию и аргументирует, почему человечество может столкнуться со сверхразумом гораздо раньше, чем предсказывал Рэй Курцвейл (Ray Kurzweil).

## 🚀 Текущее состояние ИИ: между хайпом и реальностью
[[JUMP:02:32]]

По мнению Бена Гертцеля, за последние годы темпы прогресса в области AGI стали ощутимо выше, что заметно по ежегодным конференциям, где каждый раз представляются действительно новые идеи [02:47]. Тем не менее исследователь разделяет состояние ИИ на три независимых измерения:

*   **R&D (Исследования):** Огромное разнообразие направлений — от логических систем и эволюционного обучения до новых нейронных архитектур, выходящих за рамки трансформеров [04:02].
*   **Бизнес:** Среда, напоминающая поведение «стадного животного», где венчурный капитал и корпорации бросаются на любой «блестящий успех», такой как большие языковые модели (LLM), часто переоценивая их возможности [04:45].
*   **Общественное восприятие:** После запуска ChatGPT произошел «скачкообразный переход», и теперь люди готовы верить даже самым смелым прогнозам Илона Маска о появлении AGI уже в следующем году [06:11].

Гертцель отмечает, что такая наивность публики опасна, так как может привести к принятию неадекватных законов из-за упрощенного понимания технологий [06:54].

## 🧩 Ограничения LLM: почему языковые модели — это «съезд с трассы»
[[JUMP:07:06]]

Бен Гертцель выдвигает тезис, ставший афоризмом: «LLM — это съезд (off-ramp) на пути к AGI» [07:33]. По его мнению, если тратить все силы на системы, где языковые модели являются центральным компонентом, это будет пустой тратой времени в контексте создания полноценного интеллекта.

Аргументы Гертцеля против доминирования LLM:

1.  **Отсутствие глубоких абстракций.** Несмотря на наличие «эмерджентного рассуждения» (например, в обучении на нескольких примерах), модели не способны на глубокие творческие прыжки за пределы обучающих данных [10:44].
2.  **Проблема с математикой.** Имея докторскую степень по математике, Бен отмечает, что LLM часто путают базовые структуры. Они могут выдать точное определение сложной аксиомы, но в 30% случаев не могут вывести из неё элементарное следствие, что немыслимо для студента-математика [17:03].
3.  **Творческий потолок.** В качестве примера исследователь приводит музыку. Если обучить модель только на музыке до 1900 года, она никогда не изобретет прогрессивный джаз или грайндкор. Она может создать компетентное соло, но в конечном итоге это будет «банальная музыка» [13:25].

По словам Гертцеля, трансформеры моделируют мир слишком близко к «поверхностному слою», что далеко от гибкости человеческого разума [18:06].

## 🧠 Нейросимволический подход и OpenCog Hyperon
[[JUMP:18:20]]

Вместо чистых нейросетей Гертцель годами отстаивает нейросимволическую парадигму. Он напоминает, что даже в DeepMind начали использовать этот подход (например, в AlphaGeometry) [18:20].

Суть концепции Гертцеля:

*   **Символьное манипулирование:** Компьютеры по своей природе отлично справляются с манипуляцией символами, логикой и базами данных. Это то, в чем человеческий мозг, напротив, довольно слаб и совершает много ошибок [25:14].
*   **Синергия:** Необходимо соединить субсимвольные системы (нейросети, распознающие паттерны) с символьными (вероятностная логика, эволюционное обучение), чтобы они работали как единое целое [27:36].

Исследователь подчеркивает, что это может сделать ИИ не просто равным человеку, но и более этичным. Человеческая этика часто непоследовательна: мы сопереживаем страданию перед глазами, но игнорируем голод за тысячи километров. АГИ на базе логики может быть более когерентным (последовательным) в своих моральных принципах [27:21].

## 📚 «Взрыв сознания» и новые состояния разума
[[JUMP:40:27]]

Бен Гертцель представил свою новую книгу «The Consciousness Explosion» («Взрыв сознания»), написанную в соавторстве с Габриэлем Акселем Монтесом (Gabriel Axel Montes). Книга фокусируется не столько на технологиях, сколько на будущих состояниях сознания [42:26].

Ключевые идеи книги:

*   **Ограниченность человеческого опыта:** Наша кратковременная память ограничена формулой «7 плюс-минус 2» объекта. Гертцель предлагает представить сознание существа, которое может держать в кратковременной памяти миллион объектов одновременно [44:51].
*   **Квантовое сознание:** Исследователь рассуждает, каково это — быть «квантовой машиной Тьюринга», и отмечает, что если мозг и использует квантовую динамику, то весьма ограниченно [46:11].
*   **Критика коммерческого ИИ:** Гертцель сетует, что сейчас ИИ используется для «продаж, убийств, слежки, мошенничества и плагиата» [47:12]. Это мешает созданию глубокой связи («I-Thou bond») между человеком и машиной.

## ⚖️ Регулирование: почему законы ЕС и Калифорнии бесполезны
[[JUMP:48:53]]

Гертцель крайне скептично настроен по отношению к попыткам регулировать ИИ в США (указ президента, законопроекты Калифорнии) и Европе (EU AI Act) [49:08].

Его основные претензии к регуляторам:

1.  **Абсурдность критериев.** Попытки запретить модели выше определенного размера вычислительных мощностей лишены смысла. Гертцель сравнивает это с запретом любых физических объектов, которые «эксперт может модифицировать для нанесения вреда» [51:17].
2.  **Удушение инноваций.** Законы ЕС могут просто заблокировать важные исследования [52:04].
3.  **Превосходство адаптивности.** Бен отмечает, что подход Китая, несмотря на его иерархичность, более гибок: они решают вопросы в частном порядке, а не пытаются прописать каждую деталь в законе, который устареет через полгода [49:51].

Исследователь с иронией замечает, что «дисфункция и либертарианство» правительства США могут пойти ИИ на пользу, так как регуляторы просто не успеют всё испортить до момента появления AGI [54:30].

## 🛡️ Проблема мировоззренческого выравнивания (Alignment)
[[JUMP:59:10]]

По мнению Гертцеля, «проблема выравнивания» (alignment problem) — это на самом деле проблема того, что само человечество не выровнено между собой [59:24].

Бен утверждает:

*   Современные LLM уже отлично понимают человеческую этику и могут выступать в роли «этического оракула» [1:02:22].
*   Реальную опасность представляют не «ИИ-скрепки», а цели организаций, которые создают ИИ: военных ведомств США, Китая или корпораций, нацеленных на прибыль любой ценой [1:03:10].
*   Гертцель называет теорию о том, что ИИ внезапно решит убить всех людей, «странной научно-фантастической проблемой с исчезающе малой вероятностью», которая используется для отвлечения внимания от реальных злоупотреблений технологиями [1:06:39].

## 📅 Сроки: AGI к 2029 году и прыжок к Сверхразуму
[[JUMP:1:10:39]]

Бен Гертцель во многом согласен с прогнозом Рэя Курцвейла о появлении человеческого уровня AGI в 2029 году, но расходится с ним в дальнейших этапах [1:10:39].

Курцвейл предсказывает сингулярность к 2045 году. Гертцель же считает, что между AGI и Сверхразумом (Superintelligence) пройдет всего несколько лет [1:11:50]. Как только ИИ достигнет человеческого уровня, он начнет сам изобретать новые чипы, языки программирования и архитектуры, что приведет к взрывному росту, исключающему медленный человеческий фактор из цепочки прогресса [1:12:16].

Три линии доказательств близости AGI по Гертцелю:

1.  **Экспоненциальные кривые** развития технологий (закон Мура и его аналоги для ИИ) [1:13:09].
2.  **Наблюдаемая функциональность:** системы уже проходят тест Тьюринга в «духовном смысле» и управляют автомобилями [1:14:17].
3.  **Собственные разработки:** проект OpenCog Hyperon должен войти в фазу масштабирования в ближайшие 1-2 года [1:16:54].

## 🌍 Трансгуманизм и «экономика изобилия»
[[JUMP:1:17:50]]

Будучи «анархо-социалистом» и трансгуманистом, Гертцель отвечает на критику левых активистов [1:18:04]. Они часто спрашивают: зачем тратить ресурсы на бессмертие богачей из Кремниевой долины, когда дети в Эфиопии страдают от недоедания? [1:18:36].

Ответ Бена:

*   Ресурсы тратятся не на помощь Эфиопии, а на войны и «производство шоколада со вкусом шоколада» [1:19:47].
*   Истинный трансгуманизм — это не создание Ницшеанского сверхчеловека, а радикальное увеличение разнообразия видов и культур [1:21:28].
*   Сверх-AGI сделает капитализм бессмысленным. В «культуре изобилия», подобной описанной в романах Иэна Бэнкса (Iain Banks), деньги станут признаком примитивности, как в мире, где вода из фонтанчика доступна каждому [1:22:36].

Самым опасным периодом Гертцель считает «переходное окно» в 3–5 лет между первым AGI и Сверхразумом [1:35:07]. В это время мир столкнется с массовой безработицей, геополитической нестабильностью и попытками военных поставить ИИ на «роботов-убийц», в то время как механизмы безусловного базового дохода еще не будут отлажены во всем мире [1:34:36].