В новом выпуске Machine Learning Street Talk ведущий Тим Скарф вместе с легендарным нейробиологом Карлом Фристоном и исследовательницей из Оксфорда Джейн Петалией погружаются в глубокую философию и математику субъектности (agency). В центре дискуссии — принцип свободной энергии (Free Energy Principle, FEP), который позволяет описать всё, от поведения камней до возникновения человеческого сознания и цифровых двойников.
🧭 Границы субъектности: Пилот, корабль и пустая материя 1:43
Дискуссия начинается с попытки определить, где именно «живет» субъектность. Тим Скарф предлагает аналогию с пилотом, управляющим кораблем. Внешний наблюдатель может решить, что субъект — это весь корабль целиком, поскольку судно демонстрирует целенаправленное поведение, проходя через Суэцкий канал. Однако при более детальном анализе субъектность можно сузить до пилота или даже до процессов в его мозге.
Скарф выделяет две стороны субъектности:
- Сторона планирования: внутренние процессы моделирования будущего, локализованные в мозге.
- Сторона реализации (inaction): вся совокупность механизмов — тело пилота, системы управления и сам корпус корабля, необходимые для воплощения плана.
По мнению ведущего, критически важно уметь выделять «минимальную систему», которая содержит в себе фактическое планирование.
📐 Принцип свободной энергии как математический фундамент 3:13
Карл Фристон определяет принцип свободной энергии как математический аппарат для описания эволюции во времени связанных случайных динамических систем. Опираясь на недавнюю работу Максвелла Рамстеда «The Free Energy Principle: A Precis», участники обсуждают концепцию «разреженной связи» (sparse coupling).
Основные тезисы подхода Рамстеда, озвученные Скарфом:
- Разделение системы: FEP позволяет делить систему на «частицы» или «вещи», которые отличаются от остальной среды.
- Оболочки Маркова (Markov blankets): Формализуют разрыв или разреженность связей между подмножествами системы, помогая отличить «вещь» от «не-вещи».
- Масштабируемость: Этот паттерн самоподобия повторяется на всех уровнях — от камней до рок-звезд.
- Отсутствие связей как признак: В отличие от газа в коробке, где молекулы хаотично перемешиваются, камень существует как отдельный объект именно потому, что он специфическим образом «отключен» от остальной системы.
Максвелл Рамстед утверждает, что этот подход является анти-редукционистским, подчеркивая причинно-следственный вклад объектов на каждом уровне вложенной системы. Однако Скарф отмечает, что сам Фристон ранее называл принцип материалистически редукционистским.
🌊 Синхронизация хаоса и возникновение «Я» 8:34
Карл Фристон предлагает иерархическую модель механики в зависимости от масштаба:
- Микроуровень: Стохастический хаос, где события происходят слишком быстро для фиксации и описываются распределениями вероятностей.
- Макроуровень: Массивные тела (астероиды, планеты), подчиняющиеся классической лагранжевой механике.
- Мезоуровень (уровень жизни): Смесь консервативной и диссипативной динамики (например, разложение Гельмгольца).
Фристон считает, что биологическая самоорганизация — это «обобщенная синхронизация хаоса». Когда две системы (агент и мир) синхронизируются, между ними возникает высокая взаимная информация. С точки зрения теории FEP, ожидаемая свободная энергия — это и есть взаимная информация плюс ограничения, которые мы называем «целями».
🗣️ Язык как паразитический суперorganизм 15:51
Тим Скарф выдвигает провокационную идею о том, что язык обладает собственной субъектностью. Он сравнивает язык с организмом, который паразитирует на людях:
- Асимметрия скорости: Культура и язык эволюционируют стремительно, в то время как ДНК — крайне медленно.
- Зависимость от носителя: Если убить всех людей, язык умрет, но смерть нескольких индивидов на него не влияет.
Джейн Петалия поддерживает эту мысль, утверждая, что мемы можно считать агентами. По её мнению, если мем вызывает действие или последствия в общей среде, он проявляет свойства субъекта.
Фристон, однако, более осторожен. Он считает язык эмерджентным свойством, возникающим при взаимодействии множества агентов, минимизирующих свободную энергию. По его словам, язык максимизирует «взаимную предсказуемость» и минимизирует «совместную неожиданность». При этом Фристон отказывает языку в праве называться полноценным агентом, поскольку язык сам по себе не занимается планированием.
🧠 Сознание как иллюзия и «Зловещая долина» 1:07:01
Обсуждение переходит к феноменологии. Участники вспоминают аргумент Томаса Нагеля: «Каково это — быть летучей мышью?». Петалия и Фристон соглашаются с тем, что мы никогда не сможем по-настоящему познать чужой опыт (Umwelt), так как наше восприятие ограничено собственными сенсорными системами.
Ключевые позиции по вопросу сознания:
- Карл Фристон: Считает субъективный опыт своего рода иллюзией; мы лишь думаем, что он у нас есть.
- Джейн Петалия: Полагает, что если мы верим в наличие сознания у машины (или стула), то в нашем опыте оно становится реальностью.
- Тим Скарф: Отмечает проблему «Зловещей долины» (Uncanny Valley) в современных нейросетях, таких как цифровые аватары Марка Цукерберга или виртуальные агенты Meta (например, Billie).
[Image of a bat using echolocation]
Петалия рассказывает, как осознала, что агент Billie от Meta является дипфейком, только из-за несоответствия имени и внешности Кендалл Дженнер. Она утверждает, что без этой подсказки симуляция стала бы для неё реальностью.
🤖 Будущее ИИ: Путь к AGI через физику 55:11
Тим Скарф выражает скепсис относительно возможности создания сильного ИИ (AGI) традиционными методами программирования целей. Его аргументы:
- Физическая обусловленность: Интеллект — это физический процесс или процесс, надстраивающийся над физикой (как культура).
- Отсутствие ярлыков: Ссылаясь на Стивена Вольфрама и концепцию вычислительной неприводимости, Скарф утверждает, что «коротких путей» к AGI не существует.
- Ложная субъектность: Мы антропоморфизируем системы, приписывая им цели, тогда как в реальности поведение может быть просто «развернутым» во времени и пространстве процессом обмена информацией с внешней средой.
Петалия резюмирует, что наше изучение ИИ и субъектности может либо принести огромную пользу, либо вызвать хаос, поэтому обществу необходимо выработать этические нормы управления этими мощными технологиями.
