Ошибка первого шага: почему масштабирование нейросетей не создаст AGI

Пытаясь достичь сверхразума простым масштабированием современных нейросетей, человечество совершает фатальную «ошибку первого шага» — ложную веру в то, что затяжными прыжками в высоту можно долететь до Луны. Пионер ИИ Бен Гёртцель предлагает радикальную альтернативу: отказ от жестких матричных вычислений в пользу децентрализованного «первобытного супа» ИИ-агентов, когнитивной синергии гиперграфов и машин, способных к динамическому рефакторингу собственного мышления.

🚀 Рассвет AGI: за пределами узкого ИИ и «ошибки первого шага» 0:00

Интеллектуальный путь Бена Гёртцеля (Ben Goertzel) начался в конце 1960-х годов под влиянием научно-фантастических образов роботов из сериала «Звездный путь» . Спустя три десятилетия академической работы в области ИИ он констатирует: мир наконец-то начал всерьез задумываться о том, что раньше было лишь уделом мечтателей. Мы находимся на пороге создания формы интеллекта, превосходящей человеческую, и то, каким он будет, во многом зависит от архитектурных решений, закладываемых сегодня .

Переопределение ИИ: возвращение к истокам общей цели 1:58

Область искусственного интеллекта была основана в середине 1950-х годов с амбициозной целью: создать «мыслящие машины», обладающие человекоподобным общим интеллектом . Однако за прошедшие десятилетия дисциплина значительно отклонилась от своих корней. Современный мейнстрим сосредоточен на «узком ИИ» (Narrow AI) — системах, которые блестяще справляются с конкретными задачами, но лишены гибкости. Бен Гёртцель настаивает на том, что разработка искусственного общего интеллекта (AGI) должна снова стать самостоятельным направлением, отдельным от прикладных узких подходов .

Одной из главных проблем современной индустрии Гёртцель называет «ошибку первого шага» (first step fallacy) . Это когнитивное искажение заставляет многих исследователей верить, что постепенное улучшение существующих узких систем — например, увеличение масштаба языковых моделей — автоматически приведет к возникновению AGI. По мнению Бена, это принципиально иной тип сложности. В то время как человеческий мозг ограничен черепной коробкой и низкоскоростным каналом связи в виде языка, будущие AGI смогут обмениваться «материей разума» напрямую, объединяясь в коллективные сети или разделяясь по желанию .

Гёртцель подчеркивает, что для достижения уровня человека или выше важна не столько механика реализации (будь то биологические нейроны или кремниевые чипы), сколько правильная архитектура обработки информации . Разум — это не один магический алгоритм, а месиво из сложных, интегрированных процессов: долговременной памяти, восприятия, метапознания и действий . Попытки найти «уравнение интеллекта», подобное формулам из физики, Бен считает неуместными для этой качественно иной области.

Многомерная карта исследовательских интересов 8:04

В ходе дискуссии ведущие предложили классифицировать исследователей ИИ по упрощенной шкале (например, «символисты против эмпириков»), поместив Гёртцеля рядом с Марвином Минским и Гэри Маркусом из-за его интереса к когнитивной психологии и логике . Однако Бен Гёртцель оспорил такую линейную структуру, предложив гораздо более сложную многомерную систему координат для понимания ландшафта современного ИИ .

Его собственная «карта» включает следующие измерения:

Нейронаука и биология: изучение не только мозга, но и эволюционных экосистем, открытости процессов и самоорганизации.
Математическая теория интеллекта: формальные подходы, такие как теория универсального интеллекта Маркуса Хаттера (AIXI) или формальная логика .
Когнитивистика и психология: изучение разума как системы, отделенной от биологического субстрата мозга.
Воплощенное действие (Embodied action): подход в духе Родни Брукса, утверждающий, что интеллект неразрывно связан с взаимодействием физического тела с окружающей средой .
Сложные системы и нелинейная динамика: анализ эмерджентных свойств и системной теории.
Прикладная эмпирическая работа: практические достижения в робототехнике или автоматическом доказательстве теорем (здесь он приводит в пример DeepMind, работающих на стыке нейронауки и математики) .

Бен Гёртцель отмечает, что современная теория AGI — это «лоскутное одеяло» из концепций, которые иногда синергичны, а иногда противоречат друг другу . Например, его собственная концепция когнитивной синергии (которая будет подробно разобрана в следующих главах) как раз направлена на преодоление этих противоречий.

Три философских взгляда на природу универсальности 12:14

Размышляя о статусе AGI, Бен Гёртцель выделяет три фундаментальных способа характеристики общего интеллекта, сложившихся в научном сообществе:

Математический подход (Хаттер и Легг): интеллект определяется как способность агента достигать вознаграждения в максимально широком наборе сред. Это «чистая» мера способностей, не зависящая от затраченных ресурсов .
Адаптационный подход (Пэй Ван): в центре внимания стоит способность системы адаптироваться к среде в условиях жестко ограниченных вычислительных ресурсов . Гёртцель дорабатывал идеи Хаттера, чтобы учесть эти реалистичные ограничения.
Воплощенный подход (Брукс, Пфайфер): утверждает, что интеллект — это то, что делают физические тела в физическом мире. Здесь важно соблюдение физических и социальных правил среды для производства разнообразного поведения .

Гёртцель критикует классический «символьный ИИ» (GOFAI) за слабость в обучении и креативности, но также скептичен и к чисто «эмерджентному» подходу (глубокому обучению), указывая на отсутствие у нейросетей истинного понимания и способности к абстрактному рассуждению . Он убежден, что AGI не является продолжением узкого ИИ по прямой линии — это качественный скачок, требующий архитектуры, способной к переносу знаний между контекстами и решению задач, не предусмотренных создателями .

🧠 Архитектура разума и Общество разума: путь к гибридному AGI 25:19

Четыре пути к искусственному общему интеллекту 30:11

Дискуссия о путях построения сильного искусственного интеллекта неизбежно упирается в фундаментальный выбор архитектуры системы. Ведущий шоу в шутку называет своего гостя одним из последних авторитетных исследователей классического символьного ИИ (GOFAI). Однако Бен Гёртцель (Ben Goertzel) категорически не согласен с таким ярлыком. Он напоминает, что его докторская диссертация по математике в 1980-х годах была посвящена предсказанию связанных временных рядов с помощью асимметричных сетей Хопфилда — направление, которое тогдашний академический мейнстрим отвергал как слишком «нейросетевое» и хаотичное. По мнению Гёртцеля, традиционный символьный подход совершил критическую ошибку, попытавшись вручную закодировать миллионы экспертных правил, как это делалось в знаменитом проекте Cyc.

В современной теории ИИ выделяются четыре магистральных подхода к созданию AGI, каждый из которых по-своему определяет архитектуру мышления:

Символьный подход (Symbolic) — базируется на логических правилах и декларативных знаниях, закладываемых экспертами вручную. Бен Гёртцель считает этот путь в чистом виде тупиковым, поскольку настоящий разум должен развиваться через интерактивное взаимодействие со средой.
Эмерджентный подход (Emergent) — опирается на неструктурированное экспериментальное обучение, где сложные когнитивные функции рождаются из взаимодействия простейших элементов (как в глубоких нейросетях). Современное ML-сообщество постепенно движется в эту сторону через алгоритмы обучения без учителя и обучение с подкреплением.
Универсалистский подход (Universalist) — чисто теоретическое направление, яркими примерами которого являются универсальный ИИ Маркуса Хуттера (модель AIXI) и Гёделевская машина Юргена Шмидхубера. Математически доказано, что при наличии сверхмощных вычислений сложнейшие задачи можно решать алгоритмами из десятка строк кода на Lisp. Однако в условиях жесткого дефицита реальных ресурсов этот подход не имеет практического инженерного смысла.
Гибридный подход (Hybrid) — прагматичное объединение символьных и субсимвольных (нейросетевых) когнитивных компонентов в рамках единой архитектуры. Именно этот подход Бен Гёртцель считает единственно жизнеспособным для воплощения сильного ИИ.

«Общество разума»: синергия специализированных агентов 30:24

Идея о том, что полноценный интеллект не может быть следствием работы одного монолитного алгоритма, восходит к фундаментальной концепции Марвина Минского «Общество разума». Ведущий подкаста отмечает, что Бен Гёртцель во многом реализовал это видение на практике. Вместо поиска универсальной «формулы мышления», архитектура AGI проектируется как кооперативная сеть специализированных ИИ-агентов.

Этот принцип наглядно иллюстрируется аналогией с крупной человеческой корпорацией: никто не станет отрицать, что на уровне компании возникает некий эмерджентный гештальт-интеллект, превосходящий возможности любого отдельного сотрудника. Точно так же распределенная сеть ИИ-сервисов способна породить глобальный сверхразум.

Ранее в разговоре собеседники вскользь касались SingularityNET как децентрализованного рынка ИИ-компонентов, который служит внешней средой для подобной кооперации. Гёртцель подчеркивает свою приверженность идеям модульности ИИ-систем и «Общества разума», соотнося свой подход с классификацией Педро Домингоса, выделившего пять «племен» в машинном обучении. Разум в этой парадигме — это не монолит, а слаженный оркестр, где дискретные логические модули гармонично сосуществуют с непрерывными векторами.

OpenCog как органическая гибридная система 25:19

Практическим воплощением гибридного подхода и идей Минского стал фреймворк OpenCog, который Гёртцель описывает как динамичную, почти органическую платформу для эволюции знаний и алгоритмов. Система способна одновременно оперировать самыми разными типами памяти, которые традиционно разделяют в когнитивных науках:

Декларативная, процедурная и эпизодическая память.
Сенсорная, интенциональная (целевая) и аттенциональная (управление вниманием).

Главный секрет OpenCog заключается в том, что различные когнитивные процессы могут обращаться друг к другу за помощью для преодоления вычислительных «бутылочных горлышек». Классический пример гибридизации — связывание глубоких нейросетей, которые великолепно распознают паттерны в массивах сенсорных данных, с логическими движками, оперирующими абстрактными декларативными фактами в условиях неопределенности.

Вместо взаимодействия двух изолированных «черных ящиков», OpenCog выстраивает сквозную обратную связь между восприятием и познанием. Компоненты чувствительны к промежуточным состояниям друг друга во время вычислений, что позволяет им совместно отсекать комбинаторные взрывы при поиске решений.

Фундаментом для интеграции столь разнородных процессов служит общая графовая структура — точнее, гиперграфы и метаграфы. Собеседники отмечают, что современная индустрия ИИ гипнотизирована матричной математикой и линейными операциями на GPU, которые идеальны для обработки сенсорных данных из нашего физического пространства. Однако для абстрактных когнитивных операций линейная алгебра малоэффективна.

Гёртцель, опираясь на свой опыт в теории хаоса и нелинейной динамике, утверждает, что именно гиперграфы позволяют компактно организовать знания для проведения параллельных нелинейных трансформаций. Ранее упоминавшееся в беседе вдохновение устройством биологического мозга находит здесь свое отражение: Гёртцель соглашается, что дендритные связи в нейронах во многом напоминают структуру гиперребер. Детальное сравнение графов и векторов, а также саму концепцию когнитивной синергии собеседники подробно разберут далее в беседе.

🧠 Архитектура разума: от биологии к вычислительным графам 50:21

Бен Гёртцель (Ben Goertzel) отмечает, что современные нейросети, несмотря на их успехи, являются лишь «сырыми моделями» прямой передачи сигналов в визуальной или слуховой коре, имитирующими лишь первые полсекунды восприятия. Реальное человеческое мышление задействует сложные нелинейные обратные связи: когнитивные процессы постоянно взаимодействуют с сенсорными, обеспечивая уточнение данных. В попытках масштабировать ИИ исследователи часто компенсируют отсутствие такой динамики подачей колоссальных объемов данных, однако Гёртцель настаивает на необходимости внедрения иных абстрактных свойств мозга.

Когнитивная синергия и динамика мозга 54:01

Основополагающая гипотеза Гёртцеля — «когнитивная синергия» — заключается в том, что система должна интегрировать разнородные компоненты для эффективной работы в условиях ограниченных ресурсов, избегая комбинаторного взрыва. По мнению ученого, при проектировании AGI необходимо учитывать следующие принципы:

Формирование аттракторов: Вслед за работами Уолтера Фримена, Гёртцель подчеркивает, что биологические системы используют нелинейную динамику и странные аттракторы для распознавания паттернов, что принципиально отличается от текущих подходов к машинному обучению.
Нейральный дарвинизм: Идея Джеральда Эдельмана о естественном отборе нейронных суб-ансамблей, которую современные алгоритмы эволюционного обучения ИИ имитируют лишь поверхностно.
Открытый интеллект: Способность к радикальной пластичности и самореорганизации целей, которую демонстрирует мозг (например, после тяжелых травм), является критически важной для общего интеллекта.

Помимо этих абстрактных свойств, Гёртцель отмечает, что мозг активно использует сенсорную информацию в качестве «костыля» для абстрактного мышления. Он приводит в пример собственную синестезию и исследования Жака Адамара: даже великие математики часто визуализируют абстрактные концепции (например, гильбертовы пространства) или используют «сенсорные» манипуляции для решения задач. Ранее в разговоре они касались вопросов модульности архитектур, включая концепцию «Общества разума».

Графы против матриц: вычисления будущего 1:04:44

В вопросе выбора архитектуры для AGI Гёртцель выступает сторонником графовых и гиперграфовых структур, противопоставляя их чисто матричной алгебре, на которой базируются современные тензорные вычисления. При разработке новой версии системы OpenCog, названной Hyperon, основной фокус смещен на создание эффективной среды для «метаграфов».

Основная сложность заключается в том, что большинство современных графовых баз данных оптимизированы для простых запросов обхода путей, в то время как для когнитивных операций требуются гибкие возможности сопоставления с образцом (pattern matching). Гёртцель утверждает, что все необходимые алгоритмы — от вероятностной логики до механизмов распределения внимания — можно свести к трем ключевым операциям над гиперграфами:

Сложное сопоставление паттернов (включая матчинг подграфов).
Операции типа fold (катаморфизмы и анаморфизмы), заимствованные из функционального программирования.
Гибкое управление связями, которое позволяет системе «забывать» нерелевантные данные, что критически важно для предотвращения комбинаторного взрыва.

Несмотря на эффективность матричных библиотек вроде Torch, их роль в архитектуре Гёртцеля — быть частью общей когнитивной системы, где символьные операции на графах сочетаются с нейросетевыми компонентами. «Когерентность», по его словам, достигается тогда, когда «круг» логических рассуждений становится достаточно большим, чтобы охватить контекст, а не за счет попыток раз и навсегда архитектурно ограничить структуру знаний.

🧠 Динамические системы, парадоксы AIXI и биологическое развитие разума 1:15:21

Теорема Гёделя и разум как противоречивая динамическая система 1:15:21

Бен Гёртцель (Ben Goertzel) начинает этот этап дискуссии с опровержения известных тезисов Роджера Пенроуза о том, что теорема Гёделя о неполноте накладывает фундаментальные ограничения на креативность цифровых компьютеров. Согласно этой гипотезе, искусственные системы обязаны строго подчиняться заданной системе аксиом, из-за чего неизбежно «взрываются» при столкновении с парадоксами, тогда как человеческий мозг умудряется обходить этот барьер. Гёртцель считает этот аргумент бессмысленным сразу по нескольким причинам. Прежде всего, люди по своей природе глубоко логически противоречивы. Вторая теорема Гёделя постулирует невозможность одновременной мощности, непротиворечивости и полноты системы, но человеческое мышление обходит эту проблему, изначально являясь хаотичной, логически непоследовательной динамической системой. Кроме того, цифровые машины не изолированы в вакууме — они активно взаимодействуют с внешней средой, которая обладает колоссальным и во многом непостижимым объемом алгоритмической информации. И человек, и компьютер лишь модулируют эту самоорганизующуюся сложность открытого мира. Гёртцель с ностальгией отмечает разницу поколений в ИИ: если старая школа исследователей приходила к идее создания AGI через фундаментальные философские попытки понять устройство человеческого разума, то современная молодежь часто выбирает эту сферу прагматично, рассматривая аспирантуру как затянувшееся собеседование в технологические гиганты вроде FAANG ради высоких зарплат.

Критика теории AIXI: Ошибка «сферической коровы» в вакууме 1:18:06

Переходя к обсуждению универсальной теории ИИ Маркуса Хуттера (AIXI), популярной в стенах DeepMind, Гёртцель подвергает ее жесткой критике за оторванность от реальности. Хотя AIXI позиционируется как математически строгая модель дискретного агента, максимизирующего вознаграждение, ее главным фундаментальным ограничением — помимо требования бесконечных вычислительных мощностей — является то, что она не представляет собой открытый интеллект. Математические теоремы доказывают предельную эффективность AIXI, но Гёртцель иллюстрирует этот подход классическим студенческим анекдотом о физике, которого фермер попросил рассчитать вместимость пастбища для коров: ученый начал свои выкладки со слов «предположим, что корова имеет форму идеальной сферы...». AIXI — это именно такая «сферическая корова». Модель тривиально решает задачу общего интеллекта в вычислимой среде при неограниченных ресурсах, просто перебирая все возможные программы на каждом шаге. В реальном мире, как отмечает исследователь Пэй Ван (Pei Wang), интеллект — это прежде всего адаптация к среде в условиях жестких ресурсных ограничений. Человеческий мозг не занимается тотальным перебором алгоритмов исключительно потому, что эволюционировал в условиях строгой нехватки энергетических ресурсов.

Почему «награды недостаточно»: Иллюзия единой функции потерь 1:23:34

Гёртцель категорически не согласен с концепцией DeepMind, изложенной в нашумевшей статье «Reward is Enough» («Награды достаточно»), называя ее глубоко ошибочной по своей сути. Он подчеркивает, что в человеческой жизни нет единой функции потерь или глобальной функции вознаграждения, которую мы бы планомерно максимизировали. Парадигма открытого интеллекта строится на двух ключевых, во многом гегельянских силах:

Индивидуация — стремление живой системы удерживать свои текущие когнитивные и физические границы, обеспечивая собственное выживание.
Самотрансценденция — непрерывный процесс выхода за собственные пределы, развитие и построение новой, более совершенной версии себя.

Описать это динамическое равновесие через простую максимизацию ценности невозможно, ведь даже у самого Гёртцеля в его 54 года личные аппроксимируемые функции вознаграждения постоянно менялись со временем. В некотором смысле, AIXI можно назвать reductio ad absurdum (доведением до абсурда) всей парадигмы обучения с подкреплением. В истории ИИ всегда существовала методологическая патология: считать, что если алгоритм теоретически способен достичь AGI при бесконечных ресурсах, то он имеет практическую ценность. Гёрцель иронизирует, что при безграничном масштабе «достаточно» будет абсолютно любого метода — и генетического программирования, и Гёделевской машины Юргена Шмидхубера, и даже бесконечного числа обезьян за печатными машинками. Однако в условиях реального дефицита энергии и времени эти выкладки теряют смысл.

Обучение против развития: Вдохновение биологической нейропластичностью 1:28:18

Дискуссия затрагивает подход Франсуа Шолле (François Chollet), который определяет интеллект как способность максимально эффективно адаптироваться к новизне, используя имеющиеся априорные знания. Гёртцель видит сходство между взглядами Шолле и Пэй Вана, однако считает их концепции более узкими, чем модель открытого интеллекта, поскольку они описывают лишь удержание системных границ, полностью упуская аспект самотрансценденции. Бен подчеркивает фундаментальное психологическое различие между простым обучением и развитием. Развитие кардинально перестраивает (рефакторит) саму архитектуру системы. Наблюдая за своими младшими детьми — трехлетним ребенком и пятимесячным младенцем — Гёртцель отмечает, что их когнитивный прогресс обусловлен радикальной биологической нейропластичностью: новые области и структуры мозга включаются в работу последовательно, формируясь под воздействием внешней среды. Ранее в разговоре они касались OpenCog как гибридной системы, и Гёртцель добавляет, что хотя механизмы саморефакторинга в компьютерных архитектурах (например, создание новых типов в интерпретаторе) будут отличаться от биологических, сам принцип непрерывного структурного развития на основе нелинейной динамики критически важен для AGI.

Границы физики и оптимизм против скептицизма Хофштадтера 1:33:41

Обсуждая универсальность разума, Гёртцель соглашается, что ни одна конечная физическая система не может обладать абсолютно максимальным общим интеллектом из-за ограничений физики, таких как предел Бекенштейна для объема информации на единицу массы и энергии. Человеческий разум глубоко контекстуален и ограничен: люди отлично ориентируются в двухмерных лабиринтах, но пасуют перед 750-мерными, с трудом осваивают базовую математику и совершают иррациональные социальные выборы. Тем не менее, до достижения фундаментальных физических пределов существует колоссальное пространство для роста когнитивных способностей.

Гёртцель вспоминает, как книга Дугласа Хофштадтера «Гёдель, Эшер, Бах», прочитанная им еще в детстве в середине 70-х годов, впервые открыла для него академический мир ИИ за пределами научной фантастики. Несмотря на огромное уважение к Хофштадтеру, Бен констатирует, что их взгляды на будущее радикально разошлись: Хофштадтер считает технологическую сингулярность чепухой, а современные глубокие нейросети — абсолютно бесполезными для создания AGI. В отличие от него, Гёртцель оптимистично верит, что текущие LLM и ML-модели дают ценные подсказки для эмуляции отдельных аспектов человеческого разума. Хотя их постепенное улучшение не приведет к заветной цели напрямую, они станут важными строительными блоками на пути к сверхразуму. В самом конце этого фрагмента Бен Гёртцель упоминает проект SingularityNET, который подробно рассматривается как рынок ИИ во главе 5.

🌐 SingularityNET: Децентрализованный «первобытный суп» для глобального рынка ИИ 1:40:26

От рынка API к эмерджентному сверхразуму 1:40:39

В то время как классические подходы к созданию искусственного интеллекта опираются на изолированные системы, проект SingularityNET предлагает принципиально иную парадигму. По словам Бена Гёртцеля, эта платформа призвана связать знания в слабо связанную сеть, охватывающую практически весь интернет. На первый взгляд структура может показаться обычным маркетплейсом для API, однако её теоретическое обоснование лежит гораздо глубже простых коммерческих интерфейсов. Гёртцель выделяет два принципиальных пути к достижению практического общего интеллекта:

Создание одной группой разработчиков единого алгоритма, который функционирует изолированно на их собственных компьютерах.
Развертывание децентрализованной сети, где разные участники выкладывают независимые ИИ-компоненты: от движков визуального восприятия до модулей абстрактного мышления и творчества.

Именно второй путь заложен в философию платформы. Общий интеллект должен не проектироваться сверху вниз, а кристаллизоваться и спонтанно возникать из сети взаимодействующих агентов, созданных независимыми сторонами. Обычный интернет плохо приспособлен для подобной автономной сборки разнородных алгоритмов в единые супер-узлы. Поэтому SingularityNET конструировался как своеобразный «первобытный суп» агентов. Любой разработчик может загрузить своего ИИ-агента во фреймворк, где программы способны описывать друг другу свои функции, типы принимаемых данных, требования к вычислительной мощности и стоимость услуг. Блокчейн в этой схеме выполняет роль технической разводки («сантехники»), устраняя необходимость в едином координирующем центре и обеспечивая чистое p2p-взаимодействие.

Инфраструктура общения и проблема распределённых вычислений 1:44:00

Некоторые участники команды SingularityNET верят, что человеческий уровень ИИ возникнет сам по себе из такой децентрализованной среды, что отсылает к концепции «Общества разума», упоминавшейся в более ранних главах. Сам Бен Гёртцель параллельно развивает архитектуру OpenCog Hyperon, планируя развернуть её в сети SingularityNET как набор взаимодействующих агентов. В таком сценарии Hyperon может стать «когнитивной корой» системы, тогда как сторонние разработчики напишут модули визуального восприятия или «мозжечки» для управления роботами.

Для обеспечения глубокой обратной связи между восприятием и познанием SingularityNET совместно с компанией IOHK работает над специализированным языком AI DSL. Это богатый функциональный язык с зависимыми типами, предназначенный для прямой коммуникации между ИИ-процессами. При обсуждении микросервисной архитектуры неизбежно возникает вопрос эффективности: не лучше ли переносить вычисления ближе к данным во избежание сетевых задержек? Гёртцель признает эту проблему, объясняя, что агенты SingularityNET могут группироваться на крупных фермах серверов для оптимизации общения. Сейчас многие из них работают на базе AWS, но специальный демон (SingularityNET daemon) полностью скрывает облачные вызовы, позволяя бесшовно переносить агентов на другие площадки без изменения кода. Вопросы же полной автоматизации обнаружения и связывания таких API, которые подробно рассматриваются в шестой главе, пока остаются сложнейшей нерешенной задачей.

Взгляд со стороны: Маркетинг, полиматия и инженерный скептицизм 1:53:30

После завершения интервью ведущие подкаста Machine Learning Street Talk поделились своими впечатлениями от беседы. Они отметили уникальность Бена Гёртцеля: оставаясь вне мейнстрима современной ИИ-индустрии, он успешно привлекает финансирование для таких проектов, как SingularityNET и робот София. Специфический академический жаргон в его работах полностью легитимен — Гёртцель ведет себя как настоящий полимат с колоссальным объёмом прагматических знаний. Тем не менее, концепция глобального децентрализованного ИИ-субстрата вызывает у ведущих определенный инженерный скептицизм.

Они выделяют несколько критических уязвимостей такого подхода:

Реальный уровень децентрализации остается под вопросом, так как коммерческие компании, подключающие свои ИИ-модули, скорее всего, предпочтут централизованную инфраструктуру.
Проблема описания семантики функций для их сравнения машинами невероятно сложна; без участия человека невозможно корректно сопоставить даже две нейросети для распознавания лиц из-за скрытых различий в их поведении и сбоях.

Ведущий Кит подчеркнул фундаментальный конфликт между классической программной инженерией и видением Гёртцеля. Традиционная разработка ПО строится на принципах неизменяемости, воспроизводимости и строгого тестирования. Мысль о запуске в продакшн системы, которая будет динамически меняться, эволюционировать и трансформироваться прямо на ходу, кажется большинству инженеров сущим кошмаром, хотя сам Бен видит в этом увлекательный вызов.

🤖 Автоматизация обнаружения API и семантика агентного взаимодействия 2:05:36

Подвижные модели против классического софта: кризис предсказуемости 2:05:36

Переход от традиционной программной инженерии к распределенным экосистемам искусственного общего интеллекта кардинально меняет привычные паттерны интеграции цифровых систем. В классической индустрии разработки программного обеспечения инженер всегда точно знает, какую именно версию API он вызывает, и рассчитывает на строго детерминированный, предсказуемый результат работы функции. Однако в децентрализованных сетях будущего классический софт останется преимущественно для рутинных задач вроде работы с таблицами, в то время как интеллектуальные услуги будут поставляться динамическими сетями ИИ-агентов. В этой новой реальности пользователи и внешние программы неизбежно столкнутся со стохастической природой моделей, из-за чего невозможно гарантировать стопроцентную стабильность ответов в конкретный день. Это создает серьезный барьер для бизнеса, где ключевым требованием является возможность сквозного тестирования и глубокого понимания внутренних механизмов работы системы. В таких условиях автоматизация обнаружения API сторонних ИИ-моделей превращается в комплексную проблему. Автономный агент не может просто ориентироваться на статическую документацию эндпоинта; ему необходимо на лету интерпретировать и валидировать меняющуюся семантику чужих ответов.

Для успешного решения этой задачи современный автономный агент должен одновременно оперировать тремя ключевыми элементами:

Семантическим анализом возвращаемых данных для выявления скрытых контекстных сдвигов.
Динамическим тестированием надежности и безопасности вызываемого субкомпонента.
Гибким логическим выводом для автоматической адаптации параметров запроса под новые версии модели.

Ситуация усложняется человеческой склонностью избыточно антропоморфизировать ИИ-модели вроде GPT-3, воспринимая их как целостных разумных контрагентов, хотя на самом деле они представляют собой лишь хаотичную компиляцию текстов со всего интернета, где полезная информация соседствует с откровенным троллингом. Чтобы автоматическое обнаружение интерфейсов стало жизнеспособным, инженерам необходимо внедрять многоуровневые системы проверки и специализированных «санитарных» ИИ-агентов, способных осуществлять непрерывный семантический аудит и отсекать некорректные вызовы на нижних уровнях графа.

Теория типов и проблема хрупкости жестких контрактов 2:10:48

Попытки формализовать общение между разнородными алгоритмами ИИ внутри единой платформы часто наталкиваются на фундаментальные архитектурные противоречия. Ранее в разговоре они касались OpenCog как гибридной системы, и в этом контексте ведущие подкаста детально анализируют работу, которую проделал Бен Гёртцель (Ben Goertzel) по интеграции разнородных алгоритмов ИИ через единые общие репрезентации данных. Гость попытался заставить принципиально разные ИИ-модули бесшовно взаимодействовать друг с другом через общие категории знаний. Однако на практике такая интеграция сталкивается с жестким вычислительным барьером: обход подобных комплексных графов знаний при поиске нужного решения неизбежно влечет за собой экспоненциальный взрыв сложности, что катастрофически снижает масштабируемость.

Но еще более серьезная уязвимость кроется в самой природе организации этого межкомпонентного взаимодействия. Архитектура Гёртцеля опирается на строгую математическую теорию типов, которая жестко регламентирует программные контракты между отдельными агентами. Ведущие подкаста подчеркивают, что живой человеческий мозг демонстрирует потрясающую эмерджентность и пластичность именно потому, что в нем отсутствует подобная системная хрупкость — биологические нейроны коммуницируют максимально гибко и обладают высочайшей сочетаемостью. Когда же искусственные программные модули зажаты в тиски фиксированных спецификаций типов, малейшее несовпадение ожидаемых данных делает невозможным возникновение сложной, гибкой эмерджентной динамики интеллекта. В итоге автоматизация обнаружения и стыковки API заходит в тупик: жестко типизированные системы оказываются слишком хрупкими для динамической ИИ-среды.

Роль функционального программирования в адаптивном поиске API 2:14:59

Для преодоления этой изоляционной хрупкости интерфейсов без скатывания в неуправляемый хаос исследователи вынуждены искать баланс на стыке функционального программирования и эволюционных механизмов адаптации. Ранее в разговоре они касались SingularityNET как рынка ИИ, и в текущем диапазоне эта концепция раскрывается через призму выживания агентов: они подвергаются постоянной бомбардировке со стороны меняющегося спроса и вынуждены бороться за существование, накапливая ресурсы для поддержания своих вычислений. Чтобы успешно функционировать, агент должен непрерывно предсказывать изменения внешней среды и на лету подбирать наиболее эффективные сторонние инструменты.

Здесь на сцену выходят парадигмы функционального программирования, предлагающие аппарат для безопасной, но гибкой композиции модулей через типы высшего порядка. Вместо написания монолитных контрактов, функциональный подход позволяет описывать интерфейсы как динамические предикаты поведения. Агент может семантически доказать корректность интеграции нового API непосредственно в процессе его обнаружения. Это критически важно, поскольку реальный мир накладывает жесткие ограничения на память и вычислительное время, опровергая жизнеспособность чисто теоретических конструктов. Ранее в разговоре они касались критики AIXI и теории обучения, и сейчас собеседники вновь возвращаются к этому ограничению, напоминая, что бесконечный перебор статических программ в условиях реального дефицита памяти и времени попросту невозможен. Реальный практический интеллект должен обладать свойством пластичности — уметь динамически адаптироваться, формировать новые связи и самостоятельно раскрывать семантическое значение чужих API без предопределенных жестких шаблонов.