# Йоша Бах: «Сознание — это история, которую мозг рассказывает сам себе»

Источник: https://www.youtube.com/watch?v=LgwjcqhkOA4
Канал: Machine Learning Street Talk
Опубликовано: 27.11.2022

---

## 🧠 Йоша Бах: Цифровая физика, Deep Learning и природа сознания
[[JUMP:1:32]]

В 75-минутном выпуске Machine Learning Street Talk известный когнитивный учёный Йоша Бах (Joscha Bach) обсуждает с ведущим фундаментальные вопросы бытия, искусственного интеллекта и архитектуры человеческого разума. Разговор охватывает широкий спектр тем: от критики математического платонизма до устройства нейронных сетей и того, как наш мозг генерирует иллюзию сознания.

## 🧮 Вычислимость и пределы математики
[[JUMP:3:41]]

Йоша Бах предлагает рассматривать вычисления как декомпозицию мира на состояния и переходы между ними. С его точки зрения, всё, что можно вычислить в рамках одной парадигмы (будь то машина Тьюринга или лямбда-исчисление), можно вычислить и в других, если не учитывать ограничения ресурсов.

### Опровержение Пенроуза
[[JUMP:5:28]]

Ведущий поднимает тему теоремы Гёделя, которую Роджер Пенроуз использует для аргумента о невычислимости человеческого мышления. Бах полагает, что Гёдель был «математическим реалистом», верящим в существование истины вне вычислительных процедур. По мнению Баха, Гёдель фактически доказал лишь то, что классическая «статистическая» математика несовместима с построением непротиворечивых машин. 

*   Бах утверждает, что современная концепция математики как «непрерывной» — это лишь удобная спецификация, которую в реальности невозможно реализовать, так как она требует выполнения бесконечного количества шагов.
*   Мы можем строить только те языки и модели, которые не предполагают реального существования актуальной бесконечности, так как иначе они приводят к логическим противоречиям.

## 🤖 Deep Learning: «Брутализм» против символизма
[[JUMP:24:38]]

Бах отказывается причислять себя к «символистам» или «коннекционистам», называя подход Deep Learning «уродливым брутализмом». Тем не менее, он признает его эффективность: «Это единственный класс алгоритмов, который сходится во многих доменах».

*   Критикуя позицию Гэри Маркуса о том, что Deep Learning зашёл в тупик, Бах указывает, что текущий «успех» символьных систем в узких задачах — это лишь «большой хак» (набор скриптов), а не принципиальное преимущество в обучении.
*   Будущее, по его мнению, лежит в гибридизации: нейронные сети могут научиться использовать дискретные инструменты (например, калькуляторы или алгоритмические структуры) в качестве «периферии» для более точных вычислений.

## 👁️ Искусство и творчество как внешний процесс
[[JUMP:43:24]]

Обсуждая современные генеративные модели, такие как DALL-E и Disco Diffusion, Бах проводит параллели с проектом Кеннета Стэнли «Picbreeder». Он отмечает, что творчество теперь становится «убер-эффективным внешним процессом».

*   Однако Бах подчеркивает: для создания «истинного» ИИ-художника система должна обладать автономным «креативным нексусом» — историей о самой себе, основанной на реальном опыте взаимодействия с миром.
*   Без этого модели остаются «хитрыми алгоритмами автозаполнения», которые, несмотря на свою мощь, не обладают подлинным сознанием.

## 🧬 Природа сознания: Инференция и геометрия чувств
[[JUMP:58:45]]

Бах рассматривает сознание не как мистическую субстанцию, а как «историю, которую физическая система рассказывает сама себе». Сознание возникает в процессе работы с вниманием: рефлексивное внимание позволяет организму моделировать себя как агента в мире.

### Критика принципа свободной энергии (FEP) Карла Фристона
[[JUMP:1:04:22]]

Ведущий спрашивает мнение Баха о предложении Карла Фристона, согласно которому сознание — это просто инференция относительно последствий своих действий (самодоказательство с временной глубиной).

*   Бах находит эту идею интересной, но недостаточной.
*   Он утверждает, что чувства (например, боль) при интроспекции ощущаются как «геометрические» объекты — расширяющиеся или сжимающиеся формы в телесной карте, которые модулируют поведение. 
*   Чувства — это «интерфейс» между аналитическим аппаратом контроля внимания и системой, представляющей состояние организма.