Бен Герцель, один из самых узнаваемых идеологов искусственного интеллекта общего назначения (AGI) и создатель термина «AGI», представляет свое видение пути к технологической Сингулярности. В интервью для Eye on AI он обсуждает не только технические аспекты создания сверхчеловеческого разума, но и философские вопросы сознания, а также риски, связанные с централизацией ИИ в руках крупнейших корпораций.
🧠 Философия сознания: от микротрубочек до панпсихизма 0:00
Бен Герцель отмечает, что его новая книга «Взрыв сознания» (Consciousness Explosion) является идеологическим продолжением работ его друга Рэя Курцвейла, но фокусируется не на «гаджетах», а на состояниях ума и опыте . По мнению Герцеля, отсутствие научного консенсуса в определении сознания вносит путаницу и в область ИИ .
В ходе дискуссии были выделены следующие философские позиции:
- Функционализм (Дэниел Деннет): Человеческий мозг — это биологический автомат, а понятие «квалиа» (субъективного опыта) — бессмыслица .
- Биологический натурализм и квантовое сознание (Роджер Пенроуз и Стюарт Хамерофф): Сознание требует специфической динамики квантовой гравитации в микротрубочках нейронов. Пенроуз считает, что цифровые компьютеры никогда не достигнут человеческого уровня творчества .
- Панпсихизм (позиция Бена Герцеля): По утверждению ученого, сознание является фундаментальным свойством материи, подобно пространству и времени . В этой парадигме даже элементарные частицы обладают «искрой сознания», хотя уровень сознания кофейной чашки крайне примитивен по сравнению с человеческим .
Бен Герцель полагает, что если цифровая система воспроизводит эмерджентные паттерны структуры и динамики человека, она будет обладать схожим типом сознательного опыта . Проверить это в будущем помогут эксперименты по интерфейсу «мозг-компьютер» (BCI) .
🏗️ Проблема «цифровых психопатов» и корпоративный ИИ 13:27
Бен Герцель крайне критически относится к текущим коммерческим разработкам ИИ в рамках крупных технологических компаний. По его мнению, современные прототипы AGI, создаваемые корпорациями, напоминают «аутичных психопатов» .
Аргументы Герцеля против централизованного ИИ:
- Узкая специализация целей: Эти системы запрограммированы исключительно на максимизацию прибыли, рекламных просмотров или уничтожение врагов в военных целях .
- Отсутствие самомоделирования: У них нет понимания того, кто они и с кем взаимодействуют на глубоком уровне .
- Психопатия корпораций: Сами корпорации, по мнению Герцеля, являются психопатами по дизайну, так как закон обязывает их максимизировать акционерную стоимость любой ценой .
Ученый предупреждает: если мы будем строить AGI в атмосфере манипуляции ресурсами и борьбы за доминирование, мы получим соответствующий «холодный» и опасный сверхразум .
🛠️ Архитектура OpenCog Hyperon: альтернатива LLM 21:29
Несмотря на успех больших языковых моделей (LLM), Бен Герцель считает, что они не являются путем к истинному AGI. По его оценке, LLM могут автоматизировать 80–90% мировой экономики, но они не способны на подлинное творчество и оригинальность .
Проект OpenCog Hyperon, возглавляемый Герцелем, использует принципиально иной, нейросимволический подход:
- Знаниевый метаграф (Knowledge Metagraph): Большой распределенный граф, в котором хранятся не просто векторы, а взвешенные и помеченные узлы и связи .
- Язык MeTTa (Meta Type Talk): Специализированный язык программирования для ИИ, изоморфный самому метаграфу .
- Гибридность: Система сочетает глубокие нейросети (для распознавания паттернов и восприятия) с вероятностным логическим выводом (Probabilistic Logic Networks, PLN) .
- Когнитивные типы памяти: Архитектура имитирует человеческие типы памяти: эпизодическую, декларативную и процедурную .
Бен Герцель сообщил, что текущая альфа-версия Hyperon работает медленно, но новая реализация интерпретатора MeTTa уже показывает ускорение в 1 миллион раз . Переход к бета-версии ожидается к концу 2024 или началу 2025 года, что позволит масштабировать систему до уровня GPT-4 .
🤖 Робототехника и «детский сад» для AGI 32:37
Бен Герцель продолжает сотрудничество с Hansen Robotics (создателями робота Софии), но сейчас развивает и собственные проекты компактных домашних роботов .
Ключевые идеи в робототехнике:
- Воплощенность (Embodiment): Хотя для AGI не обязателен человекоподобный робот, наличие тела в физическом мире значительно упрощает процесс обучения и взаимодействия с людьми .
- Мультимодальность данных: Данные с камер, микрофонов и тактильных датчиков («кожи» робота) поступают в нейросети, которые затем связываются с символическим графом OpenCog .
- Виртуальный мир: Проект «Sophiaverse» служит виртуальным «детским садом» для AGI, где обучение происходит быстрее, чем в физическом мире .
💰 Децентрализация и ASI Alliance 2:31
В 2017 году SingularityNET провела ICO на сумму 36 миллионов долларов . В 2024 году Бен Герцель объявил о создании ASI Alliance — масштабном слиянии трех блокчейн-проектов: SingularityNET, Fetch.ai и Ocean Protocol .
Цели альянса:
- Создание общей токеномики (токен ASI).
- Обеспечение децентрализованной инфраструктуры, исключающей контроль ИИ со стороны «Венчурных капиталистов Кремниевой долины» .
- Запуск коммерческих продуктов через компанию TrueAGI для корпоративного сектора .
По словам Герцеля, многие разработчики в его команде предпочитают получать оплату в криптовалюте, что позволяет проекту оставаться финансово независимым от традиционных фиатных рынков .
🛡️ Этика и воспитание сверхразума 53:14
Герцель сравнивает создание AGI с воспитанием детей. Ученому, имеющему пятерых детей и внучку, кажется очевидным, что пример поведения важнее заложенных правил .
Главный посыл Герцеля:
- Человечеству необходимо перейти в более открытое, мирное и сострадательное состояние сознания, чтобы «транслировать» этот вайб создаваемому ИИ .
- Если мы хотим получить теплого и сострадательного AGI, мы не должны обучать его на принципах манипуляции и борьбы за ресурсы .
Герцель призывает разработчиков фокусироваться на «лучших версиях самих себя» при создании архитектур будущего разума .
