# Карл Фристон: «Наш мозг — это фантастический орган»

Источник: https://www.youtube.com/watch?v=mU4qdFgPT0A
Канал: Machine Learning Street Talk
Опубликовано: 12.10.2023

---

В новом эпизоде подкаста Machine Learning Street Talk знаменитый британский нейробиолог Карл Фристон обсуждает недавно вышедшую книгу философа Энди Кларка «The Experience Machine». В ходе глубокой философской беседы ученые переосмысляют работу человеческого мозга, совершая переход от классических концепций XX века к современной теории предиктивного кодирования. Обсуждение затрагивает фундаментальные вопросы: почему наше восприятие реальности — это контролируемая галлюцинация и как математические уравнения объясняют существование человеческой автономии.

## 🧠 От «картезианского театра» к машине прогнозирования
[[JUMP:0:06]]

Разговор начинается с обсуждения книги Энди Кларка «The Experience Machine», которую Карл Фристон уже успел изучить до 17-й страницы. По мнению профессора Фристона, идеи Кларка во многом созвучны с его собственной концепцией активного выведения (active inference). 

Карл Фристон называет Энди Кларка своим «соратником по оружию», отмечая, что Кларк выступает в роли философа, в то время как сам Фристон видит себя физиком-теоретиком, но оба они, по сути, рассказывают одну и ту же историю.

В первой главе книги критикуются устаревшие научные догмы. По словам профессора Фристона, в XX века доминировал взгляд на мозг «снаружи внутрь», согласно которому орган чувств воспринимался как аналог «картезианского театра». Предполагалось, что мозг просто улавливает входящие сигналы, иерархически их обрабатывает и извлекает из них смысл. Однако нейробиологам давно известно о существовании огромного количества обратных связей в структурах мозга.

В XXI веке, как утверждает Карл Фристон, произошла так называемая «странная инверсия» Дэниела Деннета: теперь ученые рассматривают мозг как работающую «изнутри наружу» машину прогнозирования. Вместо пассивного извлечения информации мозг постоянно генерирует собственные гипотезы, ожидания и предсказания, чтобы объяснить получаемые сенсорные данные. 

По мнению Фристона, если предсказания совпадают с ощущениями, задача выполнена; если нет — мозг меняет свои внутренние убеждения. Профессор признался, что с гордостью написал аннотацию к этой книге, отметив, что «The Experience Machine» буквально захватывает и меняет сознание читателя.

## 🏄‍♂️ Серфинг, философия и возвращение в Сассекс
[[JUMP:2:38]]

Карл Фристон поделился живыми биографическими деталями из жизни Энди Кларка. Свою академическую карьеру Кларк начинал в Сассекском университете под руководством выдающейся исследовательницы Маргарет Боуден. После этого его «славный бродячий путь» пролегал через американские университеты и привел его в Эдинбург. 

Несмотря на любовь к Эдинбургу, у философа была одна неразрешимая проблема — там невозможно было заниматься серфингом. Кларк всегда мечтал вернуться в Брайтон и Сассекс к теплым волнам.

Профессор Фристон вспомнил забавную историю о том, как известный нейробиолог Анил Сет, также работающий в Сассексе, переманил Энди Кларка обратно. Известие об успешном трансфере застало ученых в весьма экстремальных условиях:

* Они оказались заблокированы на маленьком греческом острове во время мощного средиземноморского урагана («медикана»).
* Связь с внешним миром была практически прервана, а за окном бушевали штормовые волны.
* В этот момент ученые вели дискуссию о математических основах сознания, а Анил Сет подыгрывал на пианино.

Именно в такой обстановке Сету поступил звонок, подтверждающий, что Энди Кларк официально возглавит кафедру в Сассексе, что позволило философу и его супруге Алексе снова вернуться к серфингу.

По словам Карла Фристона, перед Рождеством Кларк прислал ему письмо, в котором в шутку назвал свою новую работу «pot boiler» — легкой книжкой, написанной на скорую руку ради заработка. Однако Фристон убежден, что книга представляет собой гораздо более глубокий труд. 

По мнению гостя, это фундаментальный синтез взглядов Кларка до эпохи предиктивной обработки данных. Ранее Кларк был знаменит концепциями «расширенного разума» (extended mind) и «спроектированной среды» (designer environment). 

Согласно его теории, люди создают собственные экологические ниши и «выгружают» когнитивные способности во внешний мир — например, доверяя память своим смартфонам. Теперь же Кларк успешно объединил эти идеи с современными концепциями активного выведения.

## 🔮 Мир как контролируемая галлюцинация
[[JUMP:6:40]]

Ведущий подкаста обратил внимание на интригующий тезис из книги Кларка: человек живет в пространстве галлюцинации, которая лишь корректируется сенсорной информацией. Ведущий предположил, что наше восприятие состоит на 90% из галлюцинаций и лишь на 10% из реальных сигналов. С точки зрения энактивизма, этот подход интересен тем, что мы сами создаем мир, в котором живем.

Карл Фристон высказал еще более радикальную позицию, заявив, что готов поднять эту ставку до 100% галлюцинации. По мнению профессора, все, что мы воспринимаем как объективную реальность, на самом деле является лишь гипотезой, созданной нашим мозгом — «статистическим», «конструктивным» и «фантастическим» органом. Сенсорные данные, как утверждает Фристон, нужны лишь для того, чтобы подтвердить, опровергнуть или скорректировать эту внутреннюю фантазию.

Однако человек не является пассивным получателем информации. Ссылаясь на идеи Кларка, Карл Фристон объясняет, что мы активно выбираем данные, которые хотим получить:

* Мы постоянно двигаем глазами, чтобы сканировать пространство.
* Мы ощупываем предметы пальцами, запрашивая новые порции информации.
* Мы сами управляем потоком стимулов, чтобы подтвердить или опровергнуть свои галлюцинаторные гипотезы.

В этом и заключается суть энактивизма: возникает циклическая причинно-следственная связь, где гипотезы определяют то, как мы будем собирать следующие данные, а новые данные корректируют последующие гипотезы.

## 🌀 Откуда берется автономия: математика и генеративные модели
[[JUMP:9:33]]

Ведущий задал концептуальный вопрос о природе человеческой автономии. Он провел аналогию с современными исследованиями нейросетей вроде ChatGPT, вокруг которых разработчики выстраивают внешний цикл (outer loop) для оптимизации и поиска лучших промптов в текстовом пространстве. Если наше тело и наше «Я» — это всего лишь гипотезы мозга, то какой именно процесс управляет этим «внешним циклом» нашего физического взаимодействия с миром?

Как считает Карл Фристон, с точки зрения байесовской статистики, ответ кроется в «априорных убеждениях» (prior beliefs) — вероятностных распределениях, которые математически кодируют саму суть того, что значит «быть мной». Организм занимается тем, что Якоб Хови назвал «самосвидетельствованием» (self-evidencing): собирает данные, подтверждающие его собственную модель мира. В процессе этого сбора у нас и возникает гипотеза о существовании себя как действующего агента.

Профессор Фристон предлагает два объяснения природы автономии:

1.  Математическое (техническое). С точки зрения математики, автономия проистекает из автономных дифференциальных уравнений, которые описывают динамику нейронов, формируя притягивающие множества (аттракторы) характерных состояний живой системы.
2.  Практическое (нетехническое). В более простом понимании быть автономным — значит быть частицей или личностью, способной физически воздействовать на скрытый от прямого наблюдения внешний мир, находящийся за «завесой» наших органов чувств.

В конечном итоге, по мнению Фристона, автономия опирается на генеративную модель — точно такую же, как в современном генеративном искусственном интеллекте. Мозг постоянно обновляет эту модель, собирая доказательства в её пользу.

На вопрос о том, откуда берется сама эта генеративная модель, Карл Фристон отвечает, что её дают нам родители. Это происходит на двух уровнях: через генетическую и эпигенетическую спецификацию, а также через культурное конструирование экологической ниши. 

Именно воспитание закладывает параметры нашей генеративной модели, определяя, что значит быть хорошим сыном, дочерью или полноценным членом общества. В дальнейшем человек развивает свою автономию благодаря способности самостоятельно обучаться через самосвидетельствование в течение всей жизни.