# Бен Герцель: «Корпорации строят ИИ как аутичных психопатов»

Источник: https://www.youtube.com/watch?v=4d9YMEwwEf8
Канал: Eye on AI
Опубликовано: 06.11.2024

---

Бен Герцель, один из самых узнаваемых идеологов искусственного интеллекта общего назначения (AGI) и создатель термина «AGI», представляет свое видение пути к технологической Сингулярности. В интервью для Eye on AI он обсуждает не только технические аспекты создания сверхчеловеческого разума, но и философские вопросы сознания, а также риски, связанные с централизацией ИИ в руках крупнейших корпораций.

## 🧠 Философия сознания: от микротрубочек до панпсихизма
[[JUMP:00:00]]

Бен Герцель отмечает, что его новая книга «Взрыв сознания» (Consciousness Explosion) является идеологическим продолжением работ его друга Рэя Курцвейла, но фокусируется не на «гаджетах», а на состояниях ума и опыте [00:26]. По мнению Герцеля, отсутствие научного консенсуса в определении сознания вносит путаницу и в область ИИ [05:09]. 

В ходе дискуссии были выделены следующие философские позиции:

*   **Функционализм (Дэниел Деннет):** Человеческий мозг — это биологический автомат, а понятие «квалиа» (субъективного опыта) — бессмыслица [06:56].
*   **Биологический натурализм и квантовое сознание (Роджер Пенроуз и Стюарт Хамерофф):** Сознание требует специфической динамики квантовой гравитации в микротрубочках нейронов. Пенроуз считает, что цифровые компьютеры никогда не достигнут человеческого уровня творчества [09:33].
*   **Панпсихизм (позиция Бена Герцеля):** По утверждению ученого, сознание является фундаментальным свойством материи, подобно пространству и времени [07:09]. В этой парадигме даже элементарные частицы обладают «искрой сознания», хотя уровень сознания кофейной чашки крайне примитивен по сравнению с человеческим [17:45].

Бен Герцель полагает, что если цифровая система воспроизводит эмерджентные паттерны структуры и динамики человека, она будет обладать схожим типом сознательного опыта [18:49]. Проверить это в будущем помогут эксперименты по интерфейсу «мозг-компьютер» (BCI) [19:40].

## 🏗️ Проблема «цифровых психопатов» и корпоративный ИИ
[[JUMP:13:27]]

Бен Герцель крайне критически относится к текущим коммерческим разработкам ИИ в рамках крупных технологических компаний. По его мнению, современные прототипы AGI, создаваемые корпорациями, напоминают «аутичных психопатов» [13:27].

Аргументы Герцеля против централизованного ИИ:

1.  **Узкая специализация целей:** Эти системы запрограммированы исключительно на максимизацию прибыли, рекламных просмотров или уничтожение врагов в военных целях [13:40].
2.  **Отсутствие самомоделирования:** У них нет понимания того, кто они и с кем взаимодействуют на глубоком уровне [13:52].
3.  **Психопатия корпораций:** Сами корпорации, по мнению Герцеля, являются психопатами по дизайну, так как закон обязывает их максимизировать акционерную стоимость любой ценой [14:46]. 

Ученый предупреждает: если мы будем строить AGI в атмосфере манипуляции ресурсами и борьбы за доминирование, мы получим соответствующий «холодный» и опасный сверхразум [54:21].

## 🛠️ Архитектура OpenCog Hyperon: альтернатива LLM
[[JUMP:21:29]]

Несмотря на успех больших языковых моделей (LLM), Бен Герцель считает, что они не являются путем к истинному AGI. По его оценке, LLM могут автоматизировать 80–90% мировой экономики, но они не способны на подлинное творчество и оригинальность [22:52].

Проект **OpenCog Hyperon**, возглавляемый Герцелем, использует принципиально иной, нейросимволический подход:

*   **Знаниевый метаграф (Knowledge Metagraph):** Большой распределенный граф, в котором хранятся не просто векторы, а взвешенные и помеченные узлы и связи [26:46].
*   **Язык MeTTa (Meta Type Talk):** Специализированный язык программирования для ИИ, изоморфный самому метаграфу [41:50].
*   **Гибридность:** Система сочетает глубокие нейросети (для распознавания паттернов и восприятия) с вероятностным логическим выводом (Probabilistic Logic Networks, PLN) [42:12].
*   **Когнитивные типы памяти:** Архитектура имитирует человеческие типы памяти: эпизодическую, декларативную и процедурную [25:54].

Бен Герцель сообщил, что текущая альфа-версия Hyperon работает медленно, но новая реализация интерпретатора MeTTa уже показывает ускорение в 1 миллион раз [47:21]. Переход к бета-версии ожидается к концу 2024 или началу 2025 года, что позволит масштабировать систему до уровня GPT-4 [47:36].

## 🤖 Робототехника и «детский сад» для AGI
[[JUMP:32:37]]

Бен Герцель продолжает сотрудничество с Hansen Robotics (создателями робота Софии), но сейчас развивает и собственные проекты компактных домашних роботов [33:31].

Ключевые идеи в робототехнике:

*   **Воплощенность (Embodiment):** Хотя для AGI не обязателен человекоподобный робот, наличие тела в физическом мире значительно упрощает процесс обучения и взаимодействия с людьми [34:11].
*   **Мультимодальность данных:** Данные с камер, микрофонов и тактильных датчиков («кожи» робота) поступают в нейросети, которые затем связываются с символическим графом OpenCog [35:45].
*   **Виртуальный мир:** Проект «Sophiaverse» служит виртуальным «детским садом» для AGI, где обучение происходит быстрее, чем в физическом мире [34:37].

## 💰 Децентрализация и ASI Alliance
[[JUMP:02:31]]

В 2017 году SingularityNET провела ICO на сумму 36 миллионов долларов [52:06]. В 2024 году Бен Герцель объявил о создании **ASI Alliance** — масштабном слиянии трех блокчейн-проектов: SingularityNET, Fetch.ai и Ocean Protocol [02:45].

Цели альянса:

1.  Создание общей токеномики (токен ASI).
2.  Обеспечение децентрализованной инфраструктуры, исключающей контроль ИИ со стороны «Венчурных капиталистов Кремниевой долины» [51:00].
3.  Запуск коммерческих продуктов через компанию **TrueAGI** для корпоративного сектора [50:22].

По словам Герцеля, многие разработчики в его команде предпочитают получать оплату в криптовалюте, что позволяет проекту оставаться финансово независимым от традиционных фиатных рынков [52:45].

## 🛡️ Этика и воспитание сверхразума
[[JUMP:53:14]]

Герцель сравнивает создание AGI с воспитанием детей. Ученому, имеющему пятерых детей и внучку, кажется очевидным, что пример поведения важнее заложенных правил [54:59].

Главный посыл Герцеля:

*   Человечеству необходимо перейти в более открытое, мирное и сострадательное состояние сознания, чтобы «транслировать» этот вайб создаваемому ИИ [53:29].
*   Если мы хотим получить теплого и сострадательного AGI, мы не должны обучать его на принципах манипуляции и борьбы за ресурсы [54:34].

Герцель призывает разработчиков фокусироваться на «лучших версиях самих себя» при создании архитектур будущего разума [54:21].