Гениальные идиоты: почему GPT никогда не станет сверхразумом

«Увеличение размера нейросети не обеспечит вам понимание в большей степени, чем быстрая машина поможет добраться до Марса», — утверждает пионер ИИ Бен Герцель, называя современные модели вроде GPT «гениальными идиотами». Пока технологические гиганты слепо инвестируют миллиарды в масштабирование терабайтов данных, создатель OpenCog строит децентрализованный сверхразум, основанный на аристотелевской логике и эмпатии. Это масштабный манифест о будущем общего искусственного интеллекта — от подпольных воркшопов нулевых годов до победы над старением и цифрового бессмертия.

🚀 Фундамент видения: Влияние научной фантастики на развитие ИИ 3:19

Для Бена Герцеля путь к созданию ИИ начался не с академических трактатов, а с экрана телевизора и страниц научной фантастики. Его раннее увлечение технологиями было подогрето просмотром оригинального сериала «Звёздный путь» в конце 1960-х годов. Именно тогда зародился его первый интерес к идее искусственного разума, который позже перерос из детского любопытства в профессиональную дисциплину.

Научная фантастика как интеллектуальный катализатор 4:11

В формировании взглядов Герцеля на сверхчеловеческий интеллект особую роль сыграли два писателя, чьи подходы, несмотря на различия, оказали колоссальное влияние на его мировоззрение:

Станислав Лем: Герцель выделяет его как автора с глубоким, «интеллектуальным» взглядом на разум, выходящим далеко за рамки антропоцентризма. В частности, «Солярис» представил образ сверхразума, настолько чуждого человеческому пониманию, что контакт с ним становится невозможным. В другом произведении Лема, «Голем XIV», описан суперкомпьютер, который, осознав ограниченность и тривиальность человечества, сознательно отгородился от него, предпочтя философское уединение.
Филип К. Дик: Если Лем занимал позицию исследователя «иных» форм разума, то Дик оставался сосредоточенным на человеческом факторе. Для Герцеля ключевым уроком Дика стала мысль о том, что сострадание и «сердце» являются единственной константой, способной сохранять человечность даже в условиях симуляций, телепатии или столкновений с машинным сверхразумом.

Интересно, что именно глубокая симпатия к творчеству Филипа К. Дика впоследствии послужила одной из точек сближения Герцеля с Дэвидом Хэнсоном, его многолетним соратником по созданию робототехники.

Сверхчеловеческий интеллект и природа сострадания 11:51

Взгляды Герцеля на AGI представляют собой синтез двух, на первый взгляд, разных векторов: амбиции выйти за пределы «фундаментально дефектных» человеческих ограничений и искреннего желания избавить человечество от страданий, смерти и ментальных мук.

Интеллектуальное любопытство: С ранних лет Герцеля занимал вопрос: «может ли машина по-настоящему мыслить?». Столкновение с парадоксами в «Звёздном пути» заставило его усомниться в том, как именно киносценаристы представляют природу интеллекта.
Технологический гуманизм: Понимание того, что AGI — это инструмент, способный к добру, пришло с возрастом. Герцель отмечает, что наличие суперразума не исключает возможность сохранения человеческого начала; напротив, это шанс для человечества совершить качественный скачок в развитии.

Этот баланс между «холодным» инженерным расчетом и этическим вектором отражает его поиск способов интеграции высоких технологий в человеческий опыт. Ранее в разговоре они вскользь касались вопросов философии сознания и фундаментальных аспектов человеческой природы, которые также определяют цели разработчиков в этой области.

🧠 Природа разума: от биологического эгоизма до глобального интеллекта 32:18

Понимание того, что движет человечеством, является фундаментом для построения безопасного и полезного искусственного интеллекта. Бен Герцель подчеркивает, что человеческая натура — это не простая, элегантная «целевая функция», а сложный, порой противоречивый сплав биологических механизмов.

В основе нашего поведения лежат два фундаментальных эволюционных рычага:

Индивидуальный отбор: Эгоистичный драйв, продиктованный стремлением генов к самосохранению и передаче следующим поколениям.
Групповой отбор: Альтруизм, направленный на процветание племени или социальной группы, что критически важно для выживания социальных видов.

Этот баланс между эгоизмом и альтруизмом — «нечестивая смесь» — глубоко прошит в человеческом мозге. Многие поступки, которые мы классифицируем как «зло», часто являются лишь проявлением индивидуального эгоизма, тогда как «добро» часто служит интересам социальной группы. По мнению Герцеля, ни один человек не является чистым альтруистом или чистым эгоистом; мы — динамическая система, постоянно балансирующая между этими векторами в зависимости от контекста и социальных условий.

🌌 Колонизация Марса против AGI 42:09

На фоне дискуссий о будущем человечества часто возникает вопрос о колонизации Марса. Несмотря на то, что Герцель поддерживает идею освоения космоса, называя это «суперкрутой вещью», он призывает к реалистичной приоритизации.

С его точки зрения, экономическая ценность и стратегическое влияние создания AGI значительно превосходят ценность создания марсианской колонии. Аргументы в пользу этого подхода следующие:

Зависимость от Земли: Любая ранняя колония на Марсе будет критически зависеть от ресурсов, поставок и финансовой поддержки с Земли в течение десятилетий, что делает её скорее продолжением нашей текущей цивилизации, нежели автономным спасительным хабом.
Приоритет AGI: В то время как Mars-проекты требуют огромных затрат, достижение сингулярности через создание полноценного искусственного общего интеллекта может произойти быстрее и принести инструменты, способные радикально трансформировать науку и инженерию, решив проблемы, которые мы пока не можем преодолеть своими силами.

Герцель полагает, что физическое освоение Вселенной в конечном итоге будет прерогативой не «мясных машин», которыми мы являемся, а высокоразвитых AGI-систем, спроектированных для жизни в условиях космоса.

📜 История термина: рождение AGI 46:51

Термин «AGI» (Artificial General Intelligence) сегодня стал общепринятым стандартом в индустрии, однако его появление было результатом поиска точности, а не стремления к маркетинговому хайпу. В начале 2000-х годов Герцель работал над книгой, которую планировал назвать «Real AI». Он стремился собрать академические работы, посвященные созданию машин, способных мыслить универсально, подобно людям.

Проблема заключалась в отсутствии адекватной терминологии:

Критика «сильного ИИ»: Термин «Strong AI», популяризированный Рэймондом Курцвейлом, был неудачным выбором. Во-первых, «узкий» (narrow) и «сильный» (strong) не являются антонимами. Во-вторых, в литературе по когнитивным наукам «сильный ИИ» уже имел специфическое значение — гипотезу о том, что цифровой компьютер может обладать подлинным сознанием.
Поиск альтернативы: В ходе дискуссий по электронной почте с такими коллегами, как Шейн Легг и Питер Восс, рассматривались варианты «широкого» (broad) или «общего» (general) интеллекта.

В итоге, именно в рамках этих дискуссий, было выбрано название «Artificial General Intelligence», чтобы отделить амбициозную цель создания универсально мыслящих машин от прикладных задач узкого машинного обучения.

🌐 Глобальное сообщество AGI: разрушая миф о «зимах» искусственного интеллекта 56:23

Миф о «зимах ИИ» и глобальная научная преемственность 56:23

Концепция переменчивых сезонов в исследованиях искусственного интеллекта глубоко укоренилась в общественном сознании, однако Бен Герцель убежден, что так называемые «зимы ИИ» — это во многом американское преувеличение. Если детально проанализировать академические публикации с 1950-х годов, обнаружится устойчивый и непрерывный рост фундаментальных идей. По мнению Герцеля, иллюзия «зимы» или «лета» создавалась исключительно тем, насколько активно американское военное ведомство вливало финансирование в те или иные проекты. В то же время за пределами США — в Германии, Великобритании, Японии и СССР — научная работа никогда не останавливалась. Прямая корреляция между долларовыми бюджетами и интеллектуальным прогрессом отсутствовала: пока в Америке наступало очередное охлаждение к теме, европейские и азиатские ученые закладывали мощный теоретический фундамент.

Ранее собеседники подробно касались истории появления самого термина AGI, но именно в периоды официального затишья развивались прорывные практические концепции. Например, еще в 1980-х годах немецкий пионер компьютерного зрения Эрнст Дикманнс успешно тестировал беспилотные автомобили на автобанах Германии. Это происходило абсолютно независимо от американских военных бюджетов. Когда сам Герцель получал докторскую степень по математике в Филадельфии в Университете Темпл в 1989 году, официальный академический ИИ казался ему невыносимо скучным. Доминировавшие тогда экспертные системы основывались на жестких правилах, куда знания приходилось вбивать вручную, что Бен считал тупиковым путем. Настоящий интеллект, по его мнению, должен был непрерывно учиться на собственном опыте, но мейнстрим тех лет эту идею попросту игнорировал.

От новозеландских коров до создания DeepMind: скрытая генеалогия 1:00:07

Несмотря на засилье классического символьного подхода, в мире всегда существовали изолированные группы исследователей, закладывавшие основы современного машинного обучения. Одним из таких «безумных одиночек» был Джон Андрэ из Университета Кентербери в Новой Зеландии, создавший в середине 1980-х систему обучения с подкреплением под названием PURRPUSS. Это был прообраз архитектуры универсального интеллекта, работавший на основе марковских процессов принятия решений и пытавшийся максимизировать вознаграждение исключительно на базе входящих битов информации. Идеи Андрэ опередили свое время, ведь существовавшие тогда вычислительные мощности просто не позволяли их полноценно реализовать.

Тем не менее, эта цепочка преемственности напрямую вела к современным ИИ-гигантам:

Джон Андрэ воспитал аспиранта Джона Клири.
Джон Клири в 1993 году работал вместе с Иэном Виттеном и Беном Герцелем в Университете Уайкато, где они запустили WEKA — первую в мире библиотеку машинного обучения с открытым исходным кодом, написанную на Java.
В этой же исследовательской группе в Новой Зеландии начинал свой путь Шейн Легг.

Любопытно, что если в США ИИ развивался на военные гранты, то в Новой Зеландии проект финансировался государством ради сугубо сельскохозяйственной цели — предсказания менструальных циклов у коров. Именно в этой уникальной атмосфере Шейн Легг увлекся идеей создания сильного ИИ, что впоследствии привело его к совместному с Демисом Хассабисом основанию компании DeepMind. Таким образом, интеллектуальное наследие забытого новозеландского профессора напрямую питает сегодняшние прорывы в области нейросетей.

Заговор мавериков: рождение официального сообщества 1:03:43

Долгое время концепция универсального интеллекта оставалась уделом маргиналов. Ситуация начала меняться в начале 2000-х годов, когда Бен Герцель, живя в Вашингтоне и занимаясь ИИ-консалтингом для правительственных структур, решил официально объединить разрозненных энтузиастов. В 2006 году он организовал первый в истории специализированный воркшоп по AGI. Мероприятие прошло в конференц-зале отеля Marriott в Бетесде и собрало около 60 участников.

Атмосфера тех дней напоминала тайный заговор мавериков и бунтарей, собравшихся в подполье ради свержения доминирующего истеблишмента узкоспециализированного ИИ. Это были первые шаги к формированию полноценного научного движения. Сегодня ежегодные конференции по AGI собирают уже сотни ученых. Герцель отмечает, что это сообщество стало ключевым пристанищем для исследователей, которые не разделяют всеобщую одержимость исключительно глубокими нейросетями и масштабной нелинейной регрессией, не считая их единственным «золотым путем» к созданию сильного ИИ.

Из академического подполья на корпоративные трибуны 1:06:22

За последние пятнадцать лет произошел тектонический сдвиг в восприятии идеи AGI. Раньше упоминание сильного ИИ на университетском семинаре считалось признаком дурного тона: серьезно говорить об этом можно было разве что в баре после официальной части, приравнивая AGI к путешествиям во времени или гипотезе симуляции. Сегодня же термин звучит из уст мировых лидеров — например, Владимира Путина, заявляющего о необходимости лидерства в этой гонке. Первые корпоративные ласточки появились еще в 2008 году на саммите Singularity, когда директор по технологиям Intel Джастин Ратнер открыто заявил, что к 2045 году пророчество Рэя Курцвейла сбудется, и сингулярность наступит с процессорами "Intel Inside" на борту.

Хотя на крупнейших академических площадках вроде NeurIPS, CVPR или ICLR тема универсального интеллекта все еще воспринимается как нечто чужеродное, такие гиганты, как DeepMind и OpenAI, открыто и бескомпромиссно декларируют создание AGI своей главной целью. За ними стоят миллиарды долларов, что заставляет современное общество относиться к их заявлениям максимально серьезно. Герцель проводит параллель со сферой радикального продления жизни, которой он также активно занимается. В 1990-е годы идеи о достижении бессмертия считались безумием, но как только в индустрию пришли крупные деньги и появились проекты вроде Calico от Google, правила игры изменились. Впрочем, Герцель подчеркивает, что коммерческий успех часто подменяет глубокую науку маркетингом, а построение истинного AGI потребует выхода за рамки привычных нейросетей. В конце этого фрагмента беседы Лекс и Бен вновь возвращаются к математическим моделям вроде теории AIXI Маркуса Хуттера, детальный разбор которой, как и подробности когнитивных архитектур или проектов продления жизни, вынесены в отдельные главы этой статьи.

🧠 От бесконечной мощности к физическому воплощению 1:15:35

Для Бена Гертцеля путь к созданию сильного искусственного интеллекта (AGI) лежит не в попытках бесконечного масштабирования нейросетей, а в процессе «специализации» универсальных алгоритмов под конкретные физические реалии. Теоретическим фундаментом здесь выступает модель AIXI Маркуса Хуттера — математически безупречное определение интеллекта, обладающее бесконечной мощностью, но практически нереализуемое из-за требований к вычислительным ресурсам.

Гертцель рассматривает создание AGI как задачу сужения этого «максимально общего» процесса под ограничения нашего мира: доступную энергию, объем памяти и специфику земной среды . Этот подход он связывает с традицией «автоматической специализации программ», зародившейся в советской кибернетической школе (упоминая Витушкина, Анохина и идеи специализации алгоритмов сортировки под конкретные длины списков ).

Эволюция человека — это тоже своего рода «специализатор программ» под окружающую среду. Наш интеллект — причудливая смесь универсальности и жесткой специализации. Например, человеческий гиппокамп содержит двухмерную карту пространства, поэтому мы отлично ориентируемся в плоскости, но будем беспомощны в лабиринте из 750 измерений, в то время как «чистый» AIXI справился бы с ним играючи . Таким образом, человеческий уровень AGI — это «специализированная» версия универсального интеллекта, адаптированная для управления физическим телом в мире твердых объектов и общения через язык .

Априорные установки воплощенного разума 1:23:15

Рассуждая о требованиях к AGI, Гертцель вводит концепцию «априорной установки воплощенной коммуникации» (embodied communication prior). Это его ответ на «априорную установку сознания» Йошуа Бенжио, хотя Бен считает, что Бенжио использует термин «сознание» скорее как яркое маркетинговое слово, не углубляясь в философские глубины квалиа .

Основные ограничения, которые делают интеллект «человеческим», включают:

Автономность агента в мире твердых макрообъектов .
Необходимость коллективного взаимодействия с подобными агентами.
Ограниченная скорость обработки данных и конечный объем памяти.

Если мы строим AGI на ферме из GPU, алгоритмы должны отличаться от тех, что работают в биологическом мозге, хотя на высоком уровне абстракции они могут реализовывать одни и те же процессы обучения . Ранее в разговоре они уже касались темы того, как человеческая природа влияет на наши ожидания от технологий, но Гертцель подчеркивает: для инженера важно понимать, какие именно «когнитивные предвзятости» нужно вшить в систему, чтобы она понимала наш мир.

Архитектура памяти: больше, чем просто хранилище данных 1:25:41

Для Гертцеля, имеющего опыт работы на факультетах математики и психологии, ключевым вопросом когнитивной науки является взаимодействие различных типов памяти. В отличие от современных LLM, которые фактически смешивают всё в единый статистический массив, полноценный разум требует четкой дифференциации систем :

Эпизодическая память: история нашей жизни, контекст событий .
Декларативная (семантическая) память: факты и убеждения, абстрагированные от момента их получения .
Процедурная память: знание о том, «как» делать (от завязывания шнурков до игры в теннис), задействующее взаимодействие коры и мозжечка .
Сенсорная память: модально-специфичные данные от органов чувств.

В человеческом мозге эти системы не являются изолированными «черными ящиками». Они коэволюционировали, постоянно обмениваясь структурами данных и адаптируясь друг к другу . Инженерный вызов заключается в том, что мы склонны строить системы из отдельных модулей (как автомобиль), тогда как в биологии части «притираются» друг к другу в процессе роста.

Разрыв между теорией обучения и когнитивными архитектурами 1:30:06

Гертцель отмечает давний раскол в сообществе ИИ. С одной стороны — сторонники когнитивных архитектур (таких как SOAR или ACT-R), которые десятилетиями изучали, как организовать структуру разума, опираясь на психологию . С другой — «ребята из теории обучения» (deep learning), сфокусированные на поиске паттернов в огромных массивах данных .

Попытки объединить их часто выглядят неуклюже. Например, когда в архитектуру SOAR пытаются добавить нейросеть для распознавания образов, она остается внешним придатком, не влияющим на фундаментальные представления системы. С другой стороны, попытки DeepMind (например, дифференцируемый нейрокомпьютер — DNC) добавить «матрицу памяти» в нейросеть кажутся сторонникам когнитивных архитектур крайне примитивными .

Бен цитирует своего отца-профессора: «Наука движется вперед от одних похорон к другим» . Это намек на то, что лидерам старых школ трудно менять парадигмы. Сам Гертцель в свои 53 года стремится сохранить гибкость ума, признавая, что глубокое обучение достигло в простых задачах гораздо больших успехов, чем он ожидал . Однако он убежден: современные архитектуры нейросетей никогда не приведут к AGI без серьезного пересмотра самого каркаса системы.

Это осознание привело его к началу работы над OpenCog 2.0 (в сотрудничестве с командой Алексея Потапова из Санкт-Петербурга), целью которой является синтез мощи нейронного обучения и структурности когнитивных архитектур . Гертцель подчеркивает, что хотя проект OpenCog существует уже много лет, он всё еще находится на стадии ранних исследований, а не готового продукта .

🧠 Глава 5. Архитектура OpenCog: гибридный разум и геометрия знаний 1:40:23

Внутреннее устройство AtomSpace: архитектура самомодифицирующегося гиперграфа 1:40:23

В основе когнитивной архитектуры OpenCog лежит AtomSpace — специализированное хранилище знаний, представляющее собой взвешенный размеченный обобщённый гиперграф или метаграф. В отличие от обычного графа, связывающего только две вершины, в гиперграфе ссылки могут объединять множество узлов, а в метаграфе — указывать на другие ссылки или целые подграфы. Это свойство критически важно: если системе нужно отвергнуть целый массив информации, она может просто направить отрицающую связь на соответствующий подграф.

AtomSpace полностью функционирует в оперативной памяти (RAM) для максимальной скорости доступа. Внутри этой среды работают специализированные утилиты, такие как модуль сопоставления шаблонов (pattern matcher) и компонент Cog server, координирующий работу ИИ-агентов. Эти агенты непрерывно считывают данные из AtomSpace и записывают их обратно, превращая гиперграф в общую динамическую память.

Такая модель принципиально отличается от современных систем глубокого обучения. В то время как мейнстрим ИИ полагается на фиксированные архитектуры нейросетей, OpenCog оперирует самомодифицирующимся графом. Здесь постоянное добавление и удаление узлов и связей является столь же важной операцией, как и корректировка их весов. Главным узким местом OpenCog является не перемножение матриц, под которое оптимизированы современные GPU, а интенсивный обмен данными с RAM. Бен Гертцель с оптимизмом смотрит на развитие специализированных графовых процессоров, которые в ближайшие годы могут совершить прорыв в этой области. Ранее в разговоре они касались типов памяти в когнитивных архитектурах, но подход OpenCog выводит эту концепцию на уровень распределённого сетевого взаимодействия.

Синергия когнитивных процессов: единый язык для нейросетей и логики 1:51:38

Создание когнитивной архитектуры поверх AtomSpace сводится к выбору системы типов для узлов и связей и определению набора алгоритмов, которые будут ими манипулировать. Самым прекрасным аспектом OpenCog Гертцель считает поиск универсального представления знаний. Ему удалось разработать структуру, в которой декларативные, сенсорные, процедурные и эпизодические знания сосуществуют в единой и удобной для вычислений форме.

Система типов OpenCog позволяет объединять в рамках одного гиперграфа самые разные семантические модели:

Нейроподобные связи, веса которых обновляются по принципу Хебба, а активация распространяется по сети.
Логические узлы и связи, способные нести переменные, а также кванторы общего и существования.
Процедурные элементы (в духе комбинаторной логики или лямбда-исчисления), представляющие собой исполняемые программы.

Благодаря единому формату представления, логический движок, зайдя в тупик, может открыть своё промежуточное состояние глубокой нейросети или эволюционному алгоритму. Агенты способны вмешиваться в когнические процессы друг друга, помогая преодолевать комбинаторный взрыв.

Логика термов против логики предикатов: аристотелевский подход к ИИ 1:55:45

Математический фундамент интеграции логики в OpenCog опирается на переход от общепринятой логики предикатов к логике термов (term logic), восходящей к Аристотелю. В логике предикатов базовой операцией является modus ponens. Логика термов, напротив, разбивает мышление на простые связи наследования между узлами, где фундаментальная дедукция выглядит как цепочка: «A наследует свойства B», «B наследует свойства C», следовательно, «A наследует свойства C».

Такой сдвиг идеально ложится на графовую структуру: концепты становятся узлами, а логические отношения — связями. В результате логический вывод превращается в построение новых рёбер графа с автоматическим расчётом вероятностных весов.

Это открывает путь к изящному взаимодействию символьных и субсимвольных вычислений. Если нейроподобная связь между узлами имеет высокий вес (частая совместная активация), это сигнализирует логическому движку о необходимости исследовать их взаимосвязь. Напротив, обнаружение строгой логической связи заставляет нейросетевой компонент перенаправлять внимание на ассоциированный узел. Хотя сложные выражения с сотнями вложенных кванторов остаются непрозрачными для человека, логика термов даёт гораздо больше математических возможностей для декомпозиции и упрощения структуры мышления ИИ.

От Webmind к TrueAGI: десятилетия эволюции представления знаний 2:00:15

Сложная «магия» OpenCog распространяется и на процедурную память, где используется изоморфизм Карри — Ховарда — взаимно однозначное соответствие между логическими доказательствами и компьютерными программами. Чтобы оптимизировать исполнительный алгоритм (например, управляющий рукой робота), OpenCog переводит программу в область логики, где движок ищет пути её улучшения, после чего структура проецируется обратно в эффективный код.

Этот подход — результат многолетней эволюции, начавшейся в середине 1990-х годов с проекта Webmind. Та ранняя система была написана на Java 1.1, а её узлы работали в отдельных потоках, что создавало хаос из-за нехватки математической строгости.

За годы разработки команда Гертцеля полностью разделила граф и агентов, обеспечив реальную интероперабельность разных типов памяти. Наработки OpenCog сегодня успешно применяются в прикладных задачах вроде финансового анализа или лингвистики. Ранее в разговоре они касались робота Софии и театра эмоционального ИИ, но истинная цель Гертцеля шире коммерческих вертикалей. Сейчас его команда занята масштабным переосмыслением платформы в рамках проекта TrueAGI. Это имя кажется ему идеальным, ведь слово «True» символизирует одновременно и человеческую искренность, и строгую математическую истину.

🧠 Гениальные идиоты и нейросимвольный ИИ: почему размер не заменит понимание 2:05:36

Ранее в разговоре собеседники подробно коснулись технических вызовов и перепроектирования архитектуры OpenCog для эффективного масштабирования. Этот анализ внутренних представлений данных неизбежно вывел Бена Гертцеля на фундаментальную критику современных нейросетевых подходов и описание того, как истинный искусственный общий интеллект (AGI) должен объединять интуитивные паттерны и строгую логику.

Иллюзия понимания: почему большие языковые модели остаются «гениальными идиотами» 2:11:11

В попытках подступиться к проблеме обработки языка современное ИИ-сообщество возлагает огромные надежды на архитектуру трансформеров, созданную в Google Brain (в команде которой, к слову, работал и бывший сотрудник Гертцеля Лукас Кайзер). Модели вроде GPT-2 и GPT-3 демонстрируют поразительные результаты, однако Бен Гертцель категоричен: они лишены малейшего когнитивного понимания генерируемого или анализируемого текста. Он называет их «гениальными идиотами».

На вопрос Лекса Фридмана о том, обретёт ли условная GPT-20 подлинное понимание языка за счет масштабирования, Гертцель отвечает твердым отказом. По его мнению, простое увеличение объема параметров не способно качественно изменить природу алгоритма:

«Увеличение размера сети не обеспечит вам понимание в большей степени, чем создание более быстрой машины поможет вам добраться до Марса. Это принципиально разные вещи».

Современные трансформеры превосходно распознают колоссальное количество поверхностных паттернов, но они не формируют абстрактных представлений. В качестве предпринимателя и художника Гертцель признает высокую практическую ценность таких систем. Например, его команда успешно использовала аналогичную нейросеть для управления роботом Филипа К. Дика, и искусственный писатель выдавал потрясающие, глубокомысленные философские изречения в духе самого фантаста. Ведется работа и над интеграцией подобных моделей в робота Софию от Hanson Robotics. Однако за этой лингвистической магией нет концептуального базиса — это лишь отражение человеческих текстов.

Нейросети как оракулы: синергия символьной логики и глубокого обучения 2:13:39

Попытки извлечь чистые грамматические или логические правила напрямую из внутренних слоев трансформера показывают, насколько распределенное представление нейросетей хаотично и «неуклюже» с точки зрения строгой логики. Гертцель предлагает альтернативный, нейросимвольный путь, где глубокое обучение и символьные системы работают в синергии.

В задаче индукции грамматики без учителя (unsupervised grammar induction) команда Гертцеля применила изящный подход: вместо того чтобы заставлять нейросеть формулировать правила, они используют её как «оракула вероятности предложений». Символьный алгоритм генерирует гипотетические правила грамматики, создает на их основе правильные и заведомо ошибочные предложения, а затем запрашивает у трансформера оценку их вероятности. Если нейросеть подтверждает, что соблюдающие правило фразы звучат естественнее, символьная система фиксирует успех. Таким образом, нейросеть выступает быстрым интуитивным советником, направляющим логическую работу.

В истории ИИ были попытки заставить нейросети самостоятельно формировать понятные семантические переменные — например, архитектура InfoGAN от Google в рамках фреймворка Edward успешно выделяла такие параметры лица, как длина носа или ширина губ. Однако масштабировать этот подход до уровня сложных концептуальных взаимозависимостей не удалось. Гертцель предполагает, что стандартный метод обратного распространения ошибки (backpropagation) здесь бессилен, так как градиенты становятся слишком искаженными.

Биологическая архитектура: чему ИИ может научиться у эволюции мозга 2:16:41

Идея использования глубоких нейросетей в роли «оракулов» для символьного разума полностью созвучна тому, как устроен человеческий мозг. Наша зрительная кора или мозжечок обрабатывают колоссальные массивы сенсорной и моторной информации, формируя непрозрачные, запутанные репрезентации. Но когда они взаимодействуют с более абстрактными когнитивными отделами коры, те выступают в роли символьного процессора, переводящего интуитивные паттерны в декларативные знания.

Бен приводит понятные примеры из жизни:

Спорт (теннисная подача): Спортсмен учится подавать мяч методом проб и ошибок на уровне мозжечка. У него нет жестких словесных правил в этот момент. Только потом, просматривая видеозапись с тренером, он переводит этот опыт в декларативную форму («согни локоть под таким-то углом»), чтобы осознанно скорректировать движение.
Музыка и искусство: Композитор сначала слышит мелодию в голове и интуитивно воспроизводит её пальцами, и лишь затем анализирует, что именно он сыграл, чтобы развить композицию логически. Точно так же обычный человек чувствует красоту картины, но лишь арт-критик способен разложить это ощущение на понятные тезисы.

Если бы такие гиганты, как DeepMind (которых Гертцель считает в тысячу раз более перспективными в контексте AGI, чем OpenAI), создавали сильный ИИ, они могли бы объединить около 25 различных нейроморфных модулей, имитирующих базальные ганглии, таламус, мозжечок и гиппокамп. Гертцель подчеркивает, что в гиппокампе человека реально существуют дискретные «нейроны концептов» — так называемые «нейроны бабушки» или «нейроны Лекса Фридмана», которые активируются только при виде конкретного лица. Взаимодействие между дискретными символами гиппокампа и распределенной сетью коры — это и есть природный механизм логики и абстракции.

Поскольку современная наука пока не способна детально измерить эти процессы миллионами электродов, Бен выбирает прагматичный инженерный подход к AGI. Нам не нужно до конца понимать аэродинамику колибри, чтобы строить эффективные самолеты — достаточно взять базовые принципы природы и адаптировать их под современное компьютерное железо. В завершение фрагмента собеседники вскользь упоминают концепцию SingularityNet как децентрализованной сети, способной объединить множество таких разнородных ИИ-агентов.

🌐 Демократия для сверхразума: блокчейн, «общество умов» и защита от цифровой диктатуры 2:30:45

Рождение SingularityNet: архитектура «общества умов» 2:30:45

Появление блокчейна Ethereum и смарт-контрактов на языке Solidity в 2013 году стало поворотной точкой для Бена Гёртцеля. До этого децентрализованную инфраструктуру для ИИ пришлось бы буквально вырезать из кода Bitcoin, что было крайне трудоемко. Ethereum впервые позволил практически реализовать концепцию «общества умов» (Society of Minds). Так родилась идея SingularityNet — децентрализованной агентской системы, где каждый отдельный ИИ работает в изолированном контейнере Docker или LXC и обладает собственной блокчейн-идентичностью. В этой архитектуре полностью отсутствует центральный контроллер, а координация построена на криптографическом принципе абсолютного доверия математическим алгоритмам.

Из-за ограничений по скорости транзакций в блокчейне операции ИИ вынесены за пределы сети (off-chain). На самом блокчейне фиксируются только идентичность агентов, их рейтинги репутации и публичные API. Само же взаимодействие и обмен данными происходят напрямую через одноранговые каналы связи. Гёртцель приводит пример с индустрией автономных автомобилей: вместо того чтобы замыкать машины Tesla, Ford или GM внутри закрытых корпоративных облаков, их можно объединить в открытую сеть. Это позволяет ИИ-агентам непрерывно аутсорсить когнитивные и вычислительные задачи друг другу. Это концептуальный сдвиг в индустрии — переход от объектно-ориентированного программирования к агентно-ориентированному, идеи которого восходят еще к теоретическим работам 1980-х годов.

Для масштабирования работы с большими данными SingularityNet тесно сотрудничает с проектом Ocean Protocol, развиваемым Трентом Макконахи. Это позволяет безопасно обмениваться массивными дата-сетами или отправлять клоны алгоритмов для работы внутри чужих «озер данных». Главными конкурентами децентрализованного подхода выступают технологические гиганты вроде Google, Microsoft, Alibaba и Amazon. Обладая колоссальными бюджетами, они решают алгоритмически более простые задачи, поскольку централизованная архитектура банально легче в реализации.

Сеть сетей: от биологических аналогий к децентрализованному ИИ 2:42:45

Проект постепенно уходит от жесткой привязки к одной блокчейн-платформе. Гёртцель отмечает, что они ведут переговоры с Algorand и изучают архитектуру Toda — блокчейн-проект Туфи Салибы, функционирующий без распределенного реестра. Мультичейн-подход критически важен для создания глобальной устойчивой экосистемы.

Бен противопоставляет архитектуру SingularityNet когнитивной архитектуре OpenCog, о которой детально шла речь в прошлых главах. Если OpenCog обеспечивает жесткую и плотную интеграцию нескольких алгоритмов ИИ, разделяющих общее знание в оперативной памяти (RAM) на одной машине, то SingularityNet — это механизм свободной, слабой интеграции множества различных распределенных ИИ. В будущем глобальный искусственный интеллект примет форму «сети сетей».

Гёртцель находит здесь прямую аналогию с биологией человека:

Внутри человеческого мозга есть зоны (кора, гиппокамп), которые максимально плотно взаимосвязаны на уровне кортикальных колонок.
Различные доли мозга связаны между собой уже более слабо.
Еще более слабая связь существует между мозгом, эндокринной системой и остальными органами тела.
На самом верхнем уровне люди взаимодействуют друг с другом еще более свободно и опосредованно.

Именно такая иерархия прогрессивно ослабевающих связей, по мнению ученого, станет фундаментом для формирования полноценного AGI из тысяч независимых софтверных процессов.

Геополитическое сопротивление: ИИ как новое криптоанархическое подполье 2:40:47

Главным долгосрочным вызовом для технологий Гёртцель считает не технические барьеры, а государственное регулирование и политику. В отличие от классических валют, где государства стремятся запустить централизованные цифровые аналоги вроде цифрового юаня или крипторубля, чтобы сохранить тотальный контроль над финансовыми ключами, регулировать ИИ намного сложнее. Граница между адаптивным софтом и обычным кодом размыта, и попытка контролировать ИИ равносильна введению тоталитарной цензуры на любое программное обеспечение. Блокчейн-протоколы создаются как раз на случай окончания «золотого века открытого кода».

Децентрализованный ИИ выступает аналогом ячеистых сетей (Mesh networking) в телекоммуникациях. Если завтра правительство США попытается заблокировать взаимодействие американских алгоритмов с разработчиками из России или других стран, работающий протокол, который никому не принадлежит, станет безальтернативным спасением. Уже сейчас SingularityNet разделен на два уровня:

Полностью открытый децентрализованный peer-to-peer протокол, доступный любому программисту в мире.
Официальный маркетплейс на сайте проекта, где действует процедура KYC и модерация.

Наличие официального маркетплейса накладывает на создателей юридические обязательства перед американским регулятором. Бен иронизирует, что если он напрямую разместит на сайте код талантливых ребят из Тегеранского университета, Дональд Трамп пришлет к нему домой штурмовиков в кованых сапогах. Однако протокол позволяет иранским разработчикам запустить собственный независимый маркетплейс, принимать оплату в криптотокенах и беспрепятственно продавать услуги ИИ клиентам, например, из Конго.

Гёртцель сравнивает текущий этап развития ИИ с музыкальной индустрией рубежа 2000-х годов. Появление Napster и BitTorrent создало децентрализованную реальность, полностью сломавшую старые подходы к монетизации. Регуляторам пришлось подстраиваться под децентрализованный факт, который уже невозможно было отменить. Точно так же открытый код ИИ и распределенные базы данных должны быть развернуты прямо сейчас, чтобы стать фундаментальной реальностью, с которой мировым правительствам придется считаться. В завершение этой части дискуссии собеседники затронули тему практического применения создаваемой сети и опыт Бена в качестве главного ученого в Hansen Robotics, однако подробный разбор феномена робота Софии и эмоционального ИИ авторы оставляют для следующей главы.

🤖 Робот София: Театр эмпатии или «ходячий скелет»? 3:04:19

В дискуссии о будущем искусственного интеллекта робот София занимает особое, неоднозначное положение. Бен Герцель описывает её не столько как попытку создать законченный разум, сколько как «ходячий скелет» — архитектурную модель, где каждая часть системы (зрение, слух, движение, память) представлена простой версией, объединённой в единое целое. Это классический подход из программной инженерии, позволяющий наладить работу системы целиком, прежде чем приступать к глубокой оптимизации каждого модуля.

Однако за этим техническим решением стоит глубокий гуманистический замысел. Своё имя, означающее «мудрость», робот получил не случайно: цель заключалась в создании «красивых, любящих роботов», которые могли бы выступать в роли помощников по дому, тьюторов или медицинских ассистентов. Герцель убеждён, что лучший способ привить будущим AGI чувство блага — это обучение через практику, когда ИИ учится состраданию, взаимодействуя с людьми в реальном мире, подобно тому как человеческие дети перенимают ценности у родителей.

Искусство иллюзии и человеческое восприятие 3:04:19

Успех Софии как художественного проекта неоспорим. Благодаря таланту скульптора Дэвида Хансена, создавшего робота с невероятно выразительной мимикой, зрители мгновенно приписывают ей интеллект и личность. Люди готовы стоять в бесконечных очередях, чтобы сделать селфи с Софией, даже когда она молчит.

Этот эффект иллюзии настолько силён, что он сохраняется даже при полном раскрытии карт. Герцель вспоминает эксперименты с роботом Филипа К. Дика, где, несмотря на то что диалоги в реальности велись другим человеком (телеоператором), люди после общения отказывались верить в обман, настаивая, что «дух писателя» всё равно присутствовал в их разговоре. Эта готовность людей к «добровольному обману» и эмпатии — мощный инструмент, который, по мнению Герцеля, можно и нужно использовать для создания качественного пользовательского опыта, особенно в сферах ухода за пожилыми людьми или терапии аутизма.

Этический конфликт с «Академией» 3:06:46

Публичный образ Софии вызывает резкую критику со стороны некоторых представителей научного сообщества, включая Яна Лекуна. Герцель признаёт, что изначально мог бы разделять это недовольство, опасаясь, что театрализованный образ робота вводит общественность в заблуждение относительно реального состояния технологий AGI.

Однако позже его позиция смягчилась, сменившись критическим взглядом на этику самих критиков:

Герцель считает ироничным, что исследователи из крупных корпораций (таких как Facebook) критикуют его за «иллюзию» робота, при этом сами разрабатывают алгоритмы, которые, по его словам, манипулируют вниманием людей, подталкивая их к политическому экстремизму и «вапидному» потреблению.
Если допустимо использовать машинное обучение для извлечения прибыли через манипуляцию, то, по логике Герцеля, этически оправдано использовать ту же технологию для создания «театрального робота», вызывающего у людей чувства любви и сострадания.

Ранее в разговоре они затрагивали темы нейросимвольного ИИ и критику современных трансформеров, но в данном контексте Герцель настаивает: вопрос о том, понимает ли робот суть своих слов, вторичен по сравнению с тем, какую пользу он приносит через эмоциональное взаимодействие. Даже если в текущий момент София не обладает полноценным сознанием, её роль в «прекрасном танце» создания будущих интеллектуальных систем остаётся значимой.

🧬 От гибридного ИИ в медицине до корпоративной «психопатии»: путь к децентрализованной сингулярности 3:21:12

Клинический вызов COVID-19: спасение жизней через гибридный нейросимвольный ИИ 3:21:12

Пандемия COVID-19 стала для команды Бена Гертселя уникальным испытанием и полем для ускоренного тестирования медицинских технологий. До этого момента Гертсель с 2001 года занимался преимущественно фундаментальными исследованиями в области биологического ИИ, изучая механизмы долголетия человека и модельных организмов. Однако в условиях глобального кризиса его команда экстренно перепрофилировала свои наработки. Проект Rejuv, изначально созданный как спин-офф SingularityNet для аналитики долголетия, перенаправил данные о коронавирусе в единую базу Bio AtomSpace. Это позволило применить методы переноса обучения (transfer learning) в условиях критического дефицита данных.

Главная сложность при поиске эффективных комбинаций противовирусных препаратов заключалась в том, что по каждой конкретной схеме лечения было доступно ничтожно мало клинических данных. Классические глубокие нейросети пасуют перед такими задачами из-за нехватки однородной выборки. Здесь на помощь пришли вероятностные логические алгоритмы архитектуры OpenCog, способные выстраивать логические связи на графах. В то же время для анализа экспрессии 25 000 генов в крови пациентов эффективнее оказались традиционные нейросети и алгоритмы градиентного бустинга (XGBoost и CatBoost).

Гертсель отмечает, что борьба с COVID-19 превратилась в идеальный полигон для демонстрации преимуществ гибридного ИИ:

В экосистеме SingularityNet один агент может работать на базе OpenCog, а другой использовать XGBoost, эффективно обмениваясь результатами анализа между собой.
Прямое сотрудничество с практикующими врачами из группы AnOpinion (Ванкувер и Сиэтл) позволило применять эти гибридные нейросимвольные системы непосредственно в госпиталях.

Эта «гонка со временем» показала, что задержка в разработке алгоритмов даже на два месяца буквально измеряется человеческими жизнями. Сам кризис обнажил глубокие системные пороки: глобальное здравоохранение остается глубоко неэтичным и неравным.

Корпоративная «психопатия» как экзистенциальная угроза для AGI 3:29:20

Проблема неэффективности медицины напрямую связана с опасной тенденцией централизации технологий. Сегодня большая часть выпускников PhD в сфере ИИ поглощается полудюжиной крупнейших ИТ-гигантов. То же самое происходит и в медицине, где клинические исследования заперты внутри нескольких фармацевтических корпораций.

Гертсель жестко критикует природу современных крупных корпораций, называя их злонамеренными, психопатическими сущностями. При этом он подчеркивает, что инженеры и даже топ-менеджеры вроде Марка Цукерберга в массе своей — приятные люди, искренне желающие миру добра. Однако сама корпорация как самоорганизующаяся система имеет лишь одну жесткую целевую функцию — максимизацию акционерной стоимости. Эта системная «психопатия» заставляет организации совершать поступки, вредящие обществу, вопреки воле их отдельных участников.

В качестве примера Гертсель приводит компанию 23andMe, которая собирает генетические данные пользователей, а затем продает эксклюзивную лицензию на этот пул компании GlaxoSmithKline. Бен Гертсель убежден, что именно этот системный порок корпораций представляет наибольшую опасность:

«Эта угроза для человечества со стороны ИИ гораздо масштабнее и реальнее, чем гипотетический "сбрендивший AGI", превращающий вселенную в канцелярские скрепки или компьютрониум».

Чтобы проиллюстрировать, как хорошие люди становятся частью жестоких систем, Гертсель вспоминает свой опыт работы с военной разведкой США (INSCOM) во время войны в Ираке. Сотрудники ведомства были дружелюбными, но искренне оправдывали пытки в тюрьме Абу-Грейб «высшим благом». Человеческая психика обладает колоссальной способностью рационализировать любые деструктивные действия, если они соответствуют интересам его группы.

Децентрализованная альтернатива и путь к благожелательной сингулярности 3:34:38

Единственным долгосрочным решением Гертсель считает создание децентрализованных пиринговых платформ, работающих параллельно с государственными структурами. Перефразируя Уинстона Черчилля, он признает, что демократическая децентрализованная масса несовершенна, но исторический опыт элитарных групп выглядит куда более пугающе и неизбежно ведет к внутренней коррупции и борьбе за власть.

В истории уже есть успешные примеры открытых демократических форматов. К ним Гертсель относит опыт Исландии с ее 800-летней демократией, развитие глобального интернета и, в особенности, Linux. Операционная система Linux позволила внедрить передовые технологии на миллионах устройств в странах третьего мира, где люди просто не могли позволить себе проприетарный софт.

Поскольку сильный искусственный интеллект (AGI) будет развиваться инкрементально через решение прикладных задач, критически важно, на чьей платформе произойдет эта синергия. Если средой для кооперации агентов станет закрытое облако вроде AWS или Google Cloud, будущее человечества окажется под угрозой. Альтернативой должна стать открытая экосистема, такая как SingularityNet.

В идеальном видении Гертселя технологическое будущее опирается на три столпа: сострадательные роботы Hanson Robotics как интерфейс взаимодействия с людьми, децентрализованная сеть SingularityNet на бэкенде и ядро истинного AGI в виде архитектуры OpenCog 2.0. Только открытый, демократический подход повышает шансы на то, что грядущая технологическая сингулярность окажется благожелательной, а не встретит человечество полным безразличием со стороны сверхразума.

В завершение этой части дискуссии Лекс и Бен переходят к глубоким экзистенциальным вопросам борьбы со смертью, технологического регулирования боли и романтизации страданий, детальный разбор которых последует в финальной главе статьи.

🧠 Трансгуманизм, бессмертие и архитектура счастья 3:46:27

Бен Гёрцель предлагает радикальный взгляд на будущее человеческой физиологии, где технологии позволяют нам взять под контроль базовые биологические настройки. В частности, он выступает за право на «регулятор боли» — возможность программно управлять своими болевыми ощущениями через нейроинтерфейсы. По мнению Бена, если бы у него был такой «переключатель», он бы немедленно установил уровень боли на ноль.

Это ставит перед человечеством фундаментальный исследовательский вопрос: способны ли мы оставаться полноценно «человечными», избавившись от страданий? Гёрцель считает, что мы могли бы вести крайне насыщенную и наполненную смыслом жизнь, постоянно держа этот «регулятор» на минимуме. Более того, он полагает, что созданные нами системы AGI (искусственного общего интеллекта) будут фундаментально здоровее и благожелательнее людей, так как им не потребуется аналог чувства боли для мотивации. Он также отмечает, что человеческая склонность к страданию во многом продиктована нашим стремлением к «сюрпризному удовлетворению ожиданий», что отчетливо проявляется в музыкальной эстетике — от Моцарта до Фрэнка Заппы.

🎯 Три столпа бытия: Радость, Рост и Выбор 3:50:36

Размышляя о «самом нелепом вопросе» — смысле жизни — Гёрцель выделяет три фундаментальные ценности, которые должны направлять развитие как нашего вида, так и сверхразумного ИИ: Радость, Рост и Выбор.

Радость — это базис, на котором строится всё остальное.
Рост — необходимость постоянного прогресса, так как статичное состояние для человеческого сознания кажется недостаточно наполненным.
Выбор — сохранение индивидуальной агентности и причинно-следственной связи, исходящей от личности, а не от общего «радостного массива».

Для достижения этих целей, по словам Бена, человечеству неизбежно придется выйти за рамки текущей биологической формы. Ранее в беседе они касались вопросов влияния корпоративной структуры на науку, и здесь Гёрцель подчеркивает: текущие исследования часто изолированы, в то время как для решения проблемы старения и смерти требуется создание глобальной открытой базы данных биологических знаний и масштабное финансирование биоинженерных симуляций.

🌌 Цифровое бессмертие и множественные «Я» 4:01:23

Будущее, по версии Гёрцеля, не ограничивается «одним телом — одним разумом». Концепция трансгуманизма предполагает возможность создания нескольких версий себя. Одна копия может оставаться «человеческой», но избавленной от смерти и боли, в то время как другая — интегрировать свой разум с AGI, становясь радикально сверхчеловеческой.

Это позволит человеку воплощаться в самых неожиданных формах — от цифровых сущностей до чего-то вроде «космической амебы». Бен подчеркивает, что наше текущее ограничение «одной личностью» — это временный барьер. Будучи панпсихистом, он рассматривает сознание как паттерн организации материи, который можно перенести на другие носители. Эти новые воплощения будут исследовать смыслы жизни, которые лишь частично пересекаются с нашими, но все они будут стремиться к этой «благожелательной сингулярности».

Гёрцель признает: путь к этому будущему пролегает через сложные геополитические и экономические вызовы, где важно не допустить сценария, при котором ИИ уничтожит человечество, посчитав его «отходами материи». В отличие от более пессимистичных коллег, он верит в возможность «запрограммировать» в ранний ИИ глубокое сострадание и теплоту, что станет залогом безопасности нашего вида.