# Макс Беннетт: «Ваш мозг — это VR-гарнитура, создающая реальность» Источник: https://www.youtube.com/watch?v=x2hfGGRfzJs Канал: Machine Learning Street Talk Опубликовано: 07.02.2024 --- В новом выпуске подкаста Machine Learning Street Talk ведущий Тим Скарф и предприниматель, исследователь ИИ Макс Беннетт обсуждают эволюционную природу человеческого разума. Основная идея дискуссии строится вокруг того, что наш мозг — это не просто приёмник сигналов, а сложная машина симуляции, чьи механизмы развивались миллионы лет и сегодня определяют границы возможного для искусственного интеллекта. ## 🧠 Активное предсказание: наследие Карла Фристона [[JUMP:0:00]] Разговор начинается с обсуждения идей Карла Фристона, выдающегося нейробиолога и создателя теории свободного действия (active inference). Тим Скарф отмечает, что Фристон был ментором Макса Беннетта и рецензентом его новой книги [0:36]. Ключевые тезисы теории Фристона в контексте беседы: * **Агентность и предпочтения:** Агент выражает свою волю, адаптируя окружающую среду под свои предпочтения, а не только подстраиваясь под неё сам [0:00]. * **Природа целей:** Теория Фристона — это, по сути, теория волеизъявления, объясняющая, откуда берутся цели и мотивация живых существ [0:12]. * **Дидактический обмен:** По мнению Скарфа, идеи Фристона преодолевают разрыв между интернализмом (внутренним миром) и экстернализмом (внешней реальностью) через постоянный обмен информацией между ними [0:50]. Беннетт вспоминает, что Фристон часто использует специфическую терминологию, например, слово *licenses* (в значении «позволяет» или «обосновывает»), что стало своего рода маркером его научного стиля [1:14]. ## 🐒 Пять столпов эволюции интеллекта [[JUMP:1:27]] Макс Беннетт в своей книге «Краткая история интеллекта» (A Brief History of Intelligence) опирается на идеи Чарльза Дарвина, высказанные ещё в 1859 году [1:42]. Основной инсайт заключается в том, что способности мозга добавлялись постепенно, подобно работе космического алгоритма оптимизации [1:54]. Беннетт выделяет пять ключевых этапов развития мозга: 1. **Руление (Steering):** Базовая навигация в пространстве. 2. **Подкрепление (Reinforcing):** Обучение на опыте, например, понимание того, что нельзя трогать горячее [2:07]. 3. **Симуляция (Simulating):** Способность мозга работать как персональная VR-гарнитура, постоянно проигрывая сценарии будущего [2:20]. 4. **Ментализация (Mentalizing):** Понимание того, что происходит в головах других людей. 5. **Речь (Speaking):** Появление языка как высшей формы коммуникации [2:27]. По словам Беннетта, наш мозг постоянно генерирует вымышленные сценарии — будь то планирование собеседования или воспоминание о дне рождения [2:33]. Мозг буквально обманывает нас, заставляя верить в реальность этих образов, что роднит его механизм работы с тем, как ChatGPT генерирует текст на основе паттернов, а не простого хранения данных [2:47]. ## 🎞️ Галлюцинации как основа восприятия [[JUMP:4:10]] Одной из самых интригующих тем обсуждения стала концепция мозга как «машины симуляции». Беннетт ссылается на Джеффа Хокинса, который утверждал, что внутри наших голов находится «Матрица» [4:10]. Аргументы в пользу того, что мы живем в симуляции, создаваемой мозгом: * **Визуальные иллюзии:** В учебниках по нейробиологии часто приводятся примеры, где мы видим треугольники или сферы там, где их на самом деле нет (например, треугольник Канижа) [4:47]. Мозг «достраивает» реальность, наблюдая присутствие объектов, которые отсутствуют физически [5:00]. * **Проверка гипотез:** По мнению Беннетта, восприятие — это не пассивное получение сигналов, а проверка того, верна ли наша внутренняя симуляция в данный момент [4:34]. Тим Скарф поднимает вопрос феноменологии: почему реальный сенсорный ввод кажется нам гораздо ярче (в «4D-кинотеатре»), чем воображаемый сценарий, созданный час назад? [5:27] Беннетт признаёт, что наука пока не знает точного ответа, но предполагает, что это может быть защитным механизмом («фичей»), чтобы мы не путали реальность с фантазией [5:53]. По его мнению, у людей с галлюцинациями этот механизм «рендеринга» работает некорректно, стирая грань между мирами [6:00]. ## 🤖 Скептицизм в отношении AGI и «стохастические попугаи» [[JUMP:6:07]] Обсуждая будущее технологий, Макс Беннетт относит себя к лагерю Яна Лекуна, выражая скепсис относительно возможности создания «общего искусственного интеллекта» (AGI) [6:07]. Позиция Беннетта по вопросу AGI: * **Отсутствие определения:** У самых умных людей мира разные определения AGI, что, по мнению гостя, свидетельствует о неопределённости самого термина [6:19]. * **Специализация vs Универсальность:** Беннетт считает, что интеллект всегда будет специализированным ради энергоэффективности и скорости выполнения конкретных задач [6:56]. * **Человекоподобный ИИ:** Мы можем создать систему, имитирующую человеческий интеллект, убрав из него когнитивные искажения и улучшив память, но это всё равно будет набор специализированных параметров [6:32]. Относительно трансформеров (LLM) собеседники высказывают двойственное мнение. С одной стороны, они кажутся невероятно умными, с другой — их можно назвать просто «продвинутым поиском по базе данных» без собственной агентности и креативности [7:23]. Беннетт критикует текущую шумиху вокруг трансформеров, указывая на то, что из-за закрытости обучающих данных невозможно понять: действительно ли модель решила новую задачу или просто выдала результат «по памяти» (критика «стохастического попугая») [8:17]. ## 📉 Парадокс Моравека и «пожирание собственного хвоста» [[JUMP:8:56]] В завершение беседы участники обсуждают парадокс Моравека: задачи, которые трудны для человека (например, высшая математика или юридические тесты), оказываются легкими для ИИ, а простые (загрузка посудомоечной машины) — непосильными [8:56]. Тим Скарф делится своим наблюдением: если в момент выхода ChatGPT общество было напугано автоматизацией рабочих мест, то сейчас в сети (например, в LinkedIn) тексты нейросетей легко узнаются по специфическому «лекторскому» стилю (слова вроде *delving*, *diving*, *intricate*) [9:24]. Скарф называет текущие модели «милой игрушкой», которая пока не стала той революцией, которой её представляли [9:37]. Основные риски текущего развития ИИ по мнению участников: 1. **Загрязнение инфосферы:** ИИ-контент переполняет интернет [9:37]. 2. **Каннибализация поиска:** Модели уничтожают традиционные поисковые системы, на которых сами же обучались. 3. **Модельный коллапс:** ИИ начинает обучаться на данных, созданных другими ИИ («поедание собственных экскрементов»), что ведет к деградации качества [9:51].