В новом выпуске подкаста Machine Learning Street Talk ведущий Тим Скарф и предприниматель, исследователь ИИ Макс Беннетт обсуждают эволюционную природу человеческого разума. Основная идея дискуссии строится вокруг того, что наш мозг — это не просто приёмник сигналов, а сложная машина симуляции, чьи механизмы развивались миллионы лет и сегодня определяют границы возможного для искусственного интеллекта.
🧠 Активное предсказание: наследие Карла Фристона 0:00
Разговор начинается с обсуждения идей Карла Фристона, выдающегося нейробиолога и создателя теории свободного действия (active inference). Тим Скарф отмечает, что Фристон был ментором Макса Беннетта и рецензентом его новой книги .
Ключевые тезисы теории Фристона в контексте беседы:
- Агентность и предпочтения: Агент выражает свою волю, адаптируя окружающую среду под свои предпочтения, а не только подстраиваясь под неё сам .
- Природа целей: Теория Фристона — это, по сути, теория волеизъявления, объясняющая, откуда берутся цели и мотивация живых существ .
- Дидактический обмен: По мнению Скарфа, идеи Фристона преодолевают разрыв между интернализмом (внутренним миром) и экстернализмом (внешней реальностью) через постоянный обмен информацией между ними .
Беннетт вспоминает, что Фристон часто использует специфическую терминологию, например, слово licenses (в значении «позволяет» или «обосновывает»), что стало своего рода маркером его научного стиля .
🐒 Пять столпов эволюции интеллекта 1:27
Макс Беннетт в своей книге «Краткая история интеллекта» (A Brief History of Intelligence) опирается на идеи Чарльза Дарвина, высказанные ещё в 1859 году . Основной инсайт заключается в том, что способности мозга добавлялись постепенно, подобно работе космического алгоритма оптимизации .
Беннетт выделяет пять ключевых этапов развития мозга:
- Руление (Steering): Базовая навигация в пространстве.
- Подкрепление (Reinforcing): Обучение на опыте, например, понимание того, что нельзя трогать горячее .
- Симуляция (Simulating): Способность мозга работать как персональная VR-гарнитура, постоянно проигрывая сценарии будущего .
- Ментализация (Mentalizing): Понимание того, что происходит в головах других людей.
- Речь (Speaking): Появление языка как высшей формы коммуникации .
По словам Беннетта, наш мозг постоянно генерирует вымышленные сценарии — будь то планирование собеседования или воспоминание о дне рождения . Мозг буквально обманывает нас, заставляя верить в реальность этих образов, что роднит его механизм работы с тем, как ChatGPT генерирует текст на основе паттернов, а не простого хранения данных .
🎞️ Галлюцинации как основа восприятия 4:10
Одной из самых интригующих тем обсуждения стала концепция мозга как «машины симуляции». Беннетт ссылается на Джеффа Хокинса, который утверждал, что внутри наших голов находится «Матрица» .
Аргументы в пользу того, что мы живем в симуляции, создаваемой мозгом:
- Визуальные иллюзии: В учебниках по нейробиологии часто приводятся примеры, где мы видим треугольники или сферы там, где их на самом деле нет (например, треугольник Канижа) . Мозг «достраивает» реальность, наблюдая присутствие объектов, которые отсутствуют физически .
- Проверка гипотез: По мнению Беннетта, восприятие — это не пассивное получение сигналов, а проверка того, верна ли наша внутренняя симуляция в данный момент .
Тим Скарф поднимает вопрос феноменологии: почему реальный сенсорный ввод кажется нам гораздо ярче (в «4D-кинотеатре»), чем воображаемый сценарий, созданный час назад? Беннетт признаёт, что наука пока не знает точного ответа, но предполагает, что это может быть защитным механизмом («фичей»), чтобы мы не путали реальность с фантазией . По его мнению, у людей с галлюцинациями этот механизм «рендеринга» работает некорректно, стирая грань между мирами .
🤖 Скептицизм в отношении AGI и «стохастические попугаи» 6:07
Обсуждая будущее технологий, Макс Беннетт относит себя к лагерю Яна Лекуна, выражая скепсис относительно возможности создания «общего искусственного интеллекта» (AGI) .
Позиция Беннетта по вопросу AGI:
- Отсутствие определения: У самых умных людей мира разные определения AGI, что, по мнению гостя, свидетельствует о неопределённости самого термина .
- Специализация vs Универсальность: Беннетт считает, что интеллект всегда будет специализированным ради энергоэффективности и скорости выполнения конкретных задач .
- Человекоподобный ИИ: Мы можем создать систему, имитирующую человеческий интеллект, убрав из него когнитивные искажения и улучшив память, но это всё равно будет набор специализированных параметров .
Относительно трансформеров (LLM) собеседники высказывают двойственное мнение. С одной стороны, они кажутся невероятно умными, с другой — их можно назвать просто «продвинутым поиском по базе данных» без собственной агентности и креативности . Беннетт критикует текущую шумиху вокруг трансформеров, указывая на то, что из-за закрытости обучающих данных невозможно понять: действительно ли модель решила новую задачу или просто выдала результат «по памяти» (критика «стохастического попугая») .
📉 Парадокс Моравека и «пожирание собственного хвоста» 8:56
В завершение беседы участники обсуждают парадокс Моравека: задачи, которые трудны для человека (например, высшая математика или юридические тесты), оказываются легкими для ИИ, а простые (загрузка посудомоечной машины) — непосильными .
Тим Скарф делится своим наблюдением: если в момент выхода ChatGPT общество было напугано автоматизацией рабочих мест, то сейчас в сети (например, в LinkedIn) тексты нейросетей легко узнаются по специфическому «лекторскому» стилю (слова вроде delving, diving, intricate) . Скарф называет текущие модели «милой игрушкой», которая пока не стала той революцией, которой её представляли .
Основные риски текущего развития ИИ по мнению участников:
- Загрязнение инфосферы: ИИ-контент переполняет интернет .
- Каннибализация поиска: Модели уничтожают традиционные поисковые системы, на которых сами же обучались.
- Модельный коллапс: ИИ начинает обучаться на данных, созданных другими ИИ («поедание собственных экскрементов»), что ведет к деградации качества .
