# Максвелл Рамстед: «Современный ИИ заперт в платоновской пещере данных»

Источник: https://www.youtube.com/watch?v=jsIt2sTB_vo
Канал: Machine Learning Street Talk
Опубликовано: 19.06.2025

---

В новом выпуске подкаста Machine Learning Street Talk ведущий Тим Скарфе обсуждает с Максвеллом Рамстедом и Джейсоном Фоксом фундаментальные ограничения современных языковых моделей в контексте взаимодействия с реальностью. Главный тезис беседы заключается в том, что искусственный интеллект не сможет достичь истинного понимания мира, пока он остается «заперт» в пространстве данных и лишен физического воплощения.

## 🧱 Проблема «пространства данных» и аллегория пещеры
[[JUMP:0:00]]

По мнению Максвелла Рамстеда, современное состояние ИИ можно охарактеризовать как пребывание в «пространстве данных» (data space) [0:59]. Эти системы оперируют многомерными массивами информации, извлекая корреляции, но они не имеют прямого доступа к процессам, порождающим эти данные. Гость проводит аналогию с аллегорией пещеры Платона: узники видят лишь тени на стене, отбрасываемые объектами, которые проносят мимо огня, но не видят самих объектов или солнца [13:11].

Максвелл Рамстед утверждает, что LLM (большие языковые модели) находятся даже в более плачевном эпистемологическом положении:

*   Язык — это «сжатие сжатия» или репрезентация репрезентации [15:06].
*   Сначала человек получает перцептивный опыт, затем формирует модель понимания этого опыта, и только потом использует язык для коммуникации этого понимания.
*   Таким образом, LLM удалены от реальности как минимум на два порядка [15:34].

Джейсон Фокс добавляет, что отсутствие воплощения (embodiment) является главным препятствием для внедрения ИИ в физические системы [10:19]. По его мнению, простое подключение LLM к роботу не превратит его в «физический ИИ», так как модель не обучалась через непосредственный контакт с физикой мира и не понимает пространства или манипуляций с объектами [10:49].

## 🧠 Воплощенное познание: почему тело — это не опция
[[JUMP:6:35]]

Максвелл Рамстед объясняет концепцию «воплощенного интеллекта» (Embodied Intelligence), согласно которой разум не является чем-то, что происходит исключительно внутри мозга. По его мнению, тело и физическая среда неразрывно связаны с тем, что значит быть «мыслящей вещью» [7:15]. 

В когнитивной науке существует давний спор между интернализмом (познание только в голове) и экстернализмом (познание включает внешние факторы) [8:00]. Максвелл Рамстед придерживается позиции, что:

1.  Разум отражает, кодирует и ограничен специфическим материальным воплощением системы [7:43].
2.  Интеллект проявляется только через поведение в мире.
3.  Для адекватных действий в реальности системе необходима «модель мира» — репрезентация конкретной среды и конкретного тела, действующего в ней [9:50].

Тим Скарфе отмечает, что в классическом подходе ИИ рассматривался как алгоритм, который можно запустить в «сосуде» (in silico), но современная наука все чаще признает, что смысл символов, которыми оперирует мозг или ИИ, возникает только из их связи с воплощенным опытом [19:31].

## 🎡 Реальность как сопротивление и паттерны Деннета
[[JUMP:26:32]]

Обсуждая вопрос о том, что считать «реальным», Максвелл Рамстед предлагает феноменологическое определение: «Реальность — это то, во что вы врезаетесь» [27:17]. С точки зрения активного вывода (Active Inference), реальный объект — это то, что сопротивляется вашим действиям и фрустрирует ваши ожидания, заставляя систему учиться на ошибках прогноза [27:47].

Собеседники обсуждают теорию «реальных паттернов» Дэниела Деннета:

*   Реальным паттерном считается любая регулярность, которая позволяет сжимать данные и предсказывать будущее [28:47].
*   Если отказ от признания паттерна ухудшает предсказательную способность, значит, этот паттерн «заслужил свое онтологическое существование» [28:47].

Тим Скарфе приводит пример игры «Жизнь» Конвея, где из простых правил возникают сложные макроскопические феномены. Однако возникает метафизический вопрос: обладают ли эти эмерджентные явления каузальной (причинной) силой? [29:57].

## ⛓️ Ограничения против причин: философия уровней организации
[[JUMP:30:35]]

Максвелл Рамстед ссылается на работы Алисии Хуарреро (Alicia Juarrero) и Макса Кистлера, предлагая различать два типа связей между уровнями организации мира [33:22]:

1.  **Композиция:** отношение «часть — целое» (например, капли воды в облаке) [33:37].
2.  **Ограничение (Constraint):** способ, которым структура более высокого уровня направляет процессы нижнего уровня (например, архитектура печатной платы ограничивает поток электронов) [33:50].

По мнению Максвелла Рамстеда, в биологии ограничения часто являются не «лимитирующими» (запрещающими движение), а «обеспечивающими» (enabling constraints) — они позволяют системе обретать новую стабильность и доступ к состояниям, которые были бы невозможны иначе [47:31]. Это позволяет говорить о детерминизме, который не сводится к простому столкновению «бильярдных шаров» (эффективной причинности Аристотеля) [35:09].

## 🔮 Принцип свободной энергии и границы объектов
[[JUMP:40:49]]

Максвелл Рамстед дает одно из наиболее доступных объяснений Принципа свободной энергии (FEP) Карла Фристона. Он предлагает рассматривать FEP как расширение второго закона термодинамики для открытых систем с границами [41:26]. 

*   В закрытой системе (газ в баллоне) все градиенты поглощаются, наступает термодинамическое равновесие и хаос (энтропия) [41:57].
*   В системе с границами (например, биологическая клетка) градиенты сохраняются. Из-за наличия границы система не может «смешаться» с окружением, поэтому она делает «второе лучшее действие» — становится статистически похожей на окружение (информационное сопряжение) [43:09].

Главный вывод Максвелла Рамстеда для ИИ: объекты в физическом мире определяются своими границами и статистикой взаимодействия на этих границах [43:21]. Современное машинное обучение определяет объекты в «пространстве признаков», что полезно для воображения (например, единорогов), но недостаточно для контроля робота в реальности, где действуют жесткие физические ограничения [44:07].

## 🤖 Почему LLM — это не «общий» интеллект
[[JUMP:56:04]]

Максвелл Рамстед делает провокационное заявление: «Общего интеллекта не существует» [56:04]. По его словам, любой интеллект специфичен для конкретной ситуации и набора данных, генерируемых через «сенсорную пальпацию» мира. 

Аргументы против использования LLM в качестве основы для физического ИИ:

*   **Отсутствие заземления:** LLM привязаны к реальности только через человеческие предпочтения (RLHF), а не через собственные действия [1:03:55].
*   **Неявные репрезентации:** хотя в весах модели могут быть скрытые знания о мире, они распределены по миллиардам параметров и не могут быть извлечены для построения четких планов или логического вывода [59:47].
*   **Отсутствие композициональности:** LLM не обучаются абстрактным примитивам, которые можно легко перекомбинировать. Они скорее «запоминают» конкретные фрагменты данных [1:03:28].

Джейсон Фокс подчеркивает проблему эффективности: перевозка дата-центра внутри робота для запуска гигантской модели — это «нонсенс» для производственных систем. Будущее за модульными, эффективными архитектурами, работающими на периферии (edge) [1:01:49].

## 🚀 Vision Noumenal: маркетплейс моделей и активный вывод
[[JUMP:1:10:15]]

Гости представляют свою компанию **Noumenal**, которая строит архитектуру ИИ, вдохновленную эволюцией мозга. Вместо одной монолитной модели они предлагают сеть специализированных модулей [1:11:15]. 

Ключевые особенности их подхода:

*   **Behavior Packs (пакеты поведения):** репозиторий навыков для физических систем, которые можно загружать и комбинировать [1:12:42].
*   **Байесовский подход:** система способна квантифицировать собственное незнание. Если робот сталкивается с незнакомым паттерном данных, он может «позвонить другу» — запросить подходящую модель из облачной сети [1:13:34].
*   **Активное обучение:** система сама генерирует данные через исследование среды, а не просто поглощает статические наборы из интернета [58:47].

Джейсон Фокс отмечает важность преодоления разрыва между симуляцией и реальностью (sim-to-real gap). По его словам, Noumenal планирует создать нечто вроде экосистемы Docker для робототехники, обеспечивая воспроизводимость и тестирование моделей на реальном «менажерии» роботов перед их развертыванием у заказчика [1:25:45].

## 💰 Экономика данных: почему модель OpenAI может рухнуть
[[JUMP:1:15:11]]

Максвелл Рамстед критикует бизнес-модель гигантов вроде OpenAI. По его мнению:

1.  **Данные исчерпаны:** все публичные данные интернета уже использованы. Новые данные могут поступать только от самих агентов, исследующих мир [1:17:19].
2.  **Проблема весов:** владение весами модели (model weights) перестает быть защищенным бизнес-активом из-за техник дистилляции знаний [1:16:07].
3.  **Юридические риски:** массовое использование авторского контента ведет к дорогостоящим искам, которые могут сделать текущую модель прибыли нежизнеспособной [1:16:50].

Джейсон Фокс считает, что ценность сместится к сообществам, которые коллективно собирают и размечают данные о физическом мире, поскольку создать «канонический датасет физики» силами одной компании невозможно [1:18:20]. В будущем пользователи захотят монетизировать свои данные и модели, а не просто отдавать их корпорациям бесплатно [1:23:59].