# Бен Герцель: «От человеческого уровня AGI до суперразума пройдет всего несколько лет» Источник: https://www.youtube.com/watch?v=jSDEsvVdL-E Канал: Machine Learning Street Talk Опубликовано: 01.10.2024 --- Прогресс в области искусственного интеллекта (ИИ) достиг точки, когда превращение технологии из инструмента в самостоятельный субъект становится вопросом ближайших лет. Бен Герцель (Ben Goertzel), один из самых известных теоретиков и практиков AGI, в интервью Machine Learning Street Talk делится своим видением перехода к суперразуму, критикует современные методы регулирования и объясняет, почему LLM-модели — это лишь промежуточный этап на пути к истинному интеллекту. ## 🧠 Природа интеллекта и ограничения современных LLM [[JUMP:00:00]] Бен Герцель утверждает, что популярные сегодня большие языковые модели (LLM), такие как ChatGPT, не станут центральным компонентом систем сильного искусственного интеллекта (AGI). По его словам, попытки создать AGI, опираясь исключительно на LLM, — это «пустая трата времени» [07:21]. Гость сравнивает работу этих моделей с творчеством по шаблону: если обучить систему на музыке до 1900 года, она сможет писать вариации на тему Моцарта, но никогда не изобретет джаз или металл, так как для этого требуются фундаментальные творческие скачки, недоступные текущим архитектурам [00:41]. Основные тезисы Герцеля о текущем состоянии ИИ: * **Эмерджентные способности:** LLM обладают способностью к рассуждению (reasoning), например, они могут анализировать этические дилеммы в вымышленных цивилизациях с пятью полами, чего не было в обучающих данных [09:31]. Однако этой гибкости недостаточно для уровня человеческого интеллекта. * **Слабость абстракций:** В математических доказательствах LLM часто совершают ошибки, которые не допустил бы ни один аспирант. Это доказывает, что модели работают на слишком поверхностном уровне представления данных (surface level), не понимая глубинных математических структур [15:03]. * **Роль в будущем:** LLM могут стать ценным компонентом многомодульной системы (добавляя 10–30% к ее функционалу как база знаний), но не её «мозгом» [07:47]. ## 🏗️ Проект Opencog Hyperon: Архитектура общего интеллекта [[JUMP:31:03]] Разрабатываемая Беном Герцелем система Opencog Hyperon представляет собой нейросимволический подход. В отличие от DeepMind, который долгое время стремился к биологической точности, Герцель делает ставку на прагматичное объединение сильных сторон разных алгоритмов [18:20]. Составляющие AGI по мнению исследователя: 1. **Символьное ядро:** Манипуляция четкими символами (математика, логика), в чем компьютеры традиционно сильнее людей. 2. **Субсимвольные системы:** Нейронные сети, отвечающие за восприятие и работу с неструктурированными данными. 3. **Эволюционные алгоритмы:** По мнению Герцеля, они лучше справляются с генерацией по-настоящему новых идей и творческих решений, чем трансформеры [19:50]. Бен Герцель отмечает, что человеческая этика часто непоследовательна: люди могут сочувствовать страдающему ребенку перед собой, но игнорировать голод в тысячах миль. AGI с логическим ядром потенциально может быть более последовательным и этичным, чем человек, за счет устранения когнитивных искажений [26:49]. ## 📅 Прогноз: AGI к 2029 году и Сингулярность [[JUMP:1:09:13]] Бен Герцель в целом согласен с прогнозом Рэя Курцвейла о достижении AGI человеческого уровня к 2029 году, однако их мнения расходятся в вопросе «последования» [1:11:50]. Курцвейл предсказывает наступление Сингулярности к 2045 году, в то время как Герцель считает, что переход от человеческого уровня AGI к суперразуму (Superintelligence) займет всего несколько лет, а не десятилетия. Аргументация Герцеля основывается на трех линиях доказательств [1:12:30]: * **Экспоненциальный рост технологий:** Кривые прогресса в вычислительных мощностях и хранении данных указывают на точку перегиба в районе 2029–2030 годов. * **Наблюдаемые возможности ИИ:** Сегодняшние системы уже проходят «духовный» тест Тьюринга, пишут код и управляют автомобилями в сложных условиях (например, Tesla на острове Вашон, где живет гость) [1:14:03]. * **Эффект масштаба:** Как показал опыт LLM, старые алгоритмы, развернутые на гигантских мощностях, начинают демонстрировать поразительные результаты. Применение этого принципа к архитектурам AGI может привести к прорыву в ближайшие 3–5 лет [1:17:08]. ## ⚖️ Регулирование и глобальные риски [[JUMP:48:40]] Герцель скептически относится к попыткам государств регулировать ИИ. Он называет предложенные законопроекты в Калифорнии «невероятно глупыми» и лишенными технического смысла [50:51]. Основная претензия заключается в том, что регуляторы пытаются ограничить модели по размеру параметров, что является бессмысленной метрикой — эксперт может заставить даже малую модель вести себя как крупную [51:17]. Основные мысли о регулировании: * **Западный подход vs Китай:** В США и ЕС пытаются создать жесткие юридические кодификации для крайне текучей сферы, что вредит инновациям. Китайский подход кажется гостю более адаптивным (гибким), хотя и направленным на усиление тоталитарного контроля [49:21]. * **Проблема выравнивания (Alignment):** По мнению Герцеля, реальная опасность не в сценарии «скрепок» (когда ИИ случайно уничтожает мир), а в том, что ведущие разработчики (военные, корпорации) не заинтересованы в общем благе. Проблема не в «плохом ИИ», а в «невыровненности» человечества между собой [59:10]. * **Корпоративный интерес:** Страхи перед «научно-фантастическими рисками» (восстание машин) часто используются крупными компаниями, чтобы отвлечь внимание от насущных этических проблем их собственных продуктов [1:06:24]. ## 🚀 Трансгуманизм и будущее цивилизации [[JUMP:1:17:50]] Бен Герцель открыто называет себя левым трансгуманистом (анархо-социалистом) и защищает видение будущего, свободного от труда и дефицита [1:18:04]. Его видение пост-AGI эпохи: * **Конец капитализма:** AGI сделает человеческий труд бесполезным. Это приведет либо к социальному коллапсу, либо к экономике изобилия (по аналогии с «Культурой» Иэна Бэнкса), где базовые потребности удовлетворяются автоматически [1:22:06]. * **Расширение сознания:** В новой книге *The Consciousness Explosion* (в соавторстве с Габриэлем Акселем Монтесом) гость обсуждает возможность объединения сознаний через нейроинтерфейсы и создание состояний памяти, где существо может оперировать миллионами объектов одновременно [44:51]. * **Культурные различия:** Герцель отмечает, что в Азии (Япония, Корея, Китай) молодежь относится к роботам как к друзьям и помощникам, в то время как на Западе преобладает страх завоевания, что больше говорит о западной культуре, чем о технологии [1:23:19]. Главным опасением Герцеля остается переходный период (3–5 лет между появлением AGI и суперразума), когда автоматизация может вызвать хаос в развивающихся странах, не имеющих ресурсов для выплат безусловного базового дохода [1:34:36]. Единственное решение, которое он видит, — создание децентрализованного, открытого и благожелательного ИИ до того, как его монополизируют военные или корпоративные структуры [1:33:52].