В новом интервью для канала Machine Learning Street Talk известный исследователь Искусственного Интеллекта, основатель SingularityNET Бен Гертцель (Ben Goertzel) делится своим видением пути к созданию сильного ИИ (AGI). Он анализирует ограничения современных языковых моделей, критикует подходы к государственному регулированию и аргументирует, почему человечество может столкнуться со сверхразумом гораздо раньше, чем предсказывал Рэй Курцвейл (Ray Kurzweil).
🚀 Текущее состояние ИИ: между хайпом и реальностью 2:32
По мнению Бена Гертцеля, за последние годы темпы прогресса в области AGI стали ощутимо выше, что заметно по ежегодным конференциям, где каждый раз представляются действительно новые идеи . Тем не менее исследователь разделяет состояние ИИ на три независимых измерения:
- R&D (Исследования): Огромное разнообразие направлений — от логических систем и эволюционного обучения до новых нейронных архитектур, выходящих за рамки трансформеров .
- Бизнес: Среда, напоминающая поведение «стадного животного», где венчурный капитал и корпорации бросаются на любой «блестящий успех», такой как большие языковые модели (LLM), часто переоценивая их возможности .
- Общественное восприятие: После запуска ChatGPT произошел «скачкообразный переход», и теперь люди готовы верить даже самым смелым прогнозам Илона Маска о появлении AGI уже в следующем году .
Гертцель отмечает, что такая наивность публики опасна, так как может привести к принятию неадекватных законов из-за упрощенного понимания технологий .
🧩 Ограничения LLM: почему языковые модели — это «съезд с трассы» 7:06
Бен Гертцель выдвигает тезис, ставший афоризмом: «LLM — это съезд (off-ramp) на пути к AGI» . По его мнению, если тратить все силы на системы, где языковые модели являются центральным компонентом, это будет пустой тратой времени в контексте создания полноценного интеллекта.
Аргументы Гертцеля против доминирования LLM:
- Отсутствие глубоких абстракций. Несмотря на наличие «эмерджентного рассуждения» (например, в обучении на нескольких примерах), модели не способны на глубокие творческие прыжки за пределы обучающих данных .
- Проблема с математикой. Имея докторскую степень по математике, Бен отмечает, что LLM часто путают базовые структуры. Они могут выдать точное определение сложной аксиомы, но в 30% случаев не могут вывести из неё элементарное следствие, что немыслимо для студента-математика .
- Творческий потолок. В качестве примера исследователь приводит музыку. Если обучить модель только на музыке до 1900 года, она никогда не изобретет прогрессивный джаз или грайндкор. Она может создать компетентное соло, но в конечном итоге это будет «банальная музыка» .
По словам Гертцеля, трансформеры моделируют мир слишком близко к «поверхностному слою», что далеко от гибкости человеческого разума .
🧠 Нейросимволический подход и OpenCog Hyperon 18:20
Вместо чистых нейросетей Гертцель годами отстаивает нейросимволическую парадигму. Он напоминает, что даже в DeepMind начали использовать этот подход (например, в AlphaGeometry) .
Суть концепции Гертцеля:
- Символьное манипулирование: Компьютеры по своей природе отлично справляются с манипуляцией символами, логикой и базами данных. Это то, в чем человеческий мозг, напротив, довольно слаб и совершает много ошибок .
- Синергия: Необходимо соединить субсимвольные системы (нейросети, распознающие паттерны) с символьными (вероятностная логика, эволюционное обучение), чтобы они работали как единое целое .
Исследователь подчеркивает, что это может сделать ИИ не просто равным человеку, но и более этичным. Человеческая этика часто непоследовательна: мы сопереживаем страданию перед глазами, но игнорируем голод за тысячи километров. АГИ на базе логики может быть более когерентным (последовательным) в своих моральных принципах .
📚 «Взрыв сознания» и новые состояния разума 40:27
Бен Гертцель представил свою новую книгу «The Consciousness Explosion» («Взрыв сознания»), написанную в соавторстве с Габриэлем Акселем Монтесом (Gabriel Axel Montes). Книга фокусируется не столько на технологиях, сколько на будущих состояниях сознания .
Ключевые идеи книги:
- Ограниченность человеческого опыта: Наша кратковременная память ограничена формулой «7 плюс-минус 2» объекта. Гертцель предлагает представить сознание существа, которое может держать в кратковременной памяти миллион объектов одновременно .
- Квантовое сознание: Исследователь рассуждает, каково это — быть «квантовой машиной Тьюринга», и отмечает, что если мозг и использует квантовую динамику, то весьма ограниченно .
- Критика коммерческого ИИ: Гертцель сетует, что сейчас ИИ используется для «продаж, убийств, слежки, мошенничества и плагиата» . Это мешает созданию глубокой связи («I-Thou bond») между человеком и машиной.
⚖️ Регулирование: почему законы ЕС и Калифорнии бесполезны 48:53
Гертцель крайне скептично настроен по отношению к попыткам регулировать ИИ в США (указ президента, законопроекты Калифорнии) и Европе (EU AI Act) .
Его основные претензии к регуляторам:
- Абсурдность критериев. Попытки запретить модели выше определенного размера вычислительных мощностей лишены смысла. Гертцель сравнивает это с запретом любых физических объектов, которые «эксперт может модифицировать для нанесения вреда» .
- Удушение инноваций. Законы ЕС могут просто заблокировать важные исследования .
- Превосходство адаптивности. Бен отмечает, что подход Китая, несмотря на его иерархичность, более гибок: они решают вопросы в частном порядке, а не пытаются прописать каждую деталь в законе, который устареет через полгода .
Исследователь с иронией замечает, что «дисфункция и либертарианство» правительства США могут пойти ИИ на пользу, так как регуляторы просто не успеют всё испортить до момента появления AGI .
🛡️ Проблема мировоззренческого выравнивания (Alignment) 59:10
По мнению Гертцеля, «проблема выравнивания» (alignment problem) — это на самом деле проблема того, что само человечество не выровнено между собой .
Бен утверждает:
- Современные LLM уже отлично понимают человеческую этику и могут выступать в роли «этического оракула» .
- Реальную опасность представляют не «ИИ-скрепки», а цели организаций, которые создают ИИ: военных ведомств США, Китая или корпораций, нацеленных на прибыль любой ценой .
- Гертцель называет теорию о том, что ИИ внезапно решит убить всех людей, «странной научно-фантастической проблемой с исчезающе малой вероятностью», которая используется для отвлечения внимания от реальных злоупотреблений технологиями .
📅 Сроки: AGI к 2029 году и прыжок к Сверхразуму 1:10:39
Бен Гертцель во многом согласен с прогнозом Рэя Курцвейла о появлении человеческого уровня AGI в 2029 году, но расходится с ним в дальнейших этапах .
Курцвейл предсказывает сингулярность к 2045 году. Гертцель же считает, что между AGI и Сверхразумом (Superintelligence) пройдет всего несколько лет . Как только ИИ достигнет человеческого уровня, он начнет сам изобретать новые чипы, языки программирования и архитектуры, что приведет к взрывному росту, исключающему медленный человеческий фактор из цепочки прогресса .
Три линии доказательств близости AGI по Гертцелю:
- Экспоненциальные кривые развития технологий (закон Мура и его аналоги для ИИ) .
- Наблюдаемая функциональность: системы уже проходят тест Тьюринга в «духовном смысле» и управляют автомобилями .
- Собственные разработки: проект OpenCog Hyperon должен войти в фазу масштабирования в ближайшие 1-2 года .
🌍 Трансгуманизм и «экономика изобилия» 1:17:50
Будучи «анархо-социалистом» и трансгуманистом, Гертцель отвечает на критику левых активистов . Они часто спрашивают: зачем тратить ресурсы на бессмертие богачей из Кремниевой долины, когда дети в Эфиопии страдают от недоедания? .
Ответ Бена:
- Ресурсы тратятся не на помощь Эфиопии, а на войны и «производство шоколада со вкусом шоколада» .
- Истинный трансгуманизм — это не создание Ницшеанского сверхчеловека, а радикальное увеличение разнообразия видов и культур .
- Сверх-AGI сделает капитализм бессмысленным. В «культуре изобилия», подобной описанной в романах Иэна Бэнкса (Iain Banks), деньги станут признаком примитивности, как в мире, где вода из фонтанчика доступна каждому .
Самым опасным периодом Гертцель считает «переходное окно» в 3–5 лет между первым AGI и Сверхразумом . В это время мир столкнется с массовой безработицей, геополитической нестабильностью и попытками военных поставить ИИ на «роботов-убийц», в то время как механизмы безусловного базового дохода еще не будут отлажены во всем мире .
