🧠 Йоша Бах: Цифровая физика, Deep Learning и природа сознания 1:32
В 75-минутном выпуске Machine Learning Street Talk известный когнитивный учёный Йоша Бах (Joscha Bach) обсуждает с ведущим фундаментальные вопросы бытия, искусственного интеллекта и архитектуры человеческого разума. Разговор охватывает широкий спектр тем: от критики математического платонизма до устройства нейронных сетей и того, как наш мозг генерирует иллюзию сознания.
🧮 Вычислимость и пределы математики 3:41
Йоша Бах предлагает рассматривать вычисления как декомпозицию мира на состояния и переходы между ними. С его точки зрения, всё, что можно вычислить в рамках одной парадигмы (будь то машина Тьюринга или лямбда-исчисление), можно вычислить и в других, если не учитывать ограничения ресурсов.
Опровержение Пенроуза 5:28
Ведущий поднимает тему теоремы Гёделя, которую Роджер Пенроуз использует для аргумента о невычислимости человеческого мышления. Бах полагает, что Гёдель был «математическим реалистом», верящим в существование истины вне вычислительных процедур. По мнению Баха, Гёдель фактически доказал лишь то, что классическая «статистическая» математика несовместима с построением непротиворечивых машин.
- Бах утверждает, что современная концепция математики как «непрерывной» — это лишь удобная спецификация, которую в реальности невозможно реализовать, так как она требует выполнения бесконечного количества шагов.
- Мы можем строить только те языки и модели, которые не предполагают реального существования актуальной бесконечности, так как иначе они приводят к логическим противоречиям.
🤖 Deep Learning: «Брутализм» против символизма 24:38
Бах отказывается причислять себя к «символистам» или «коннекционистам», называя подход Deep Learning «уродливым брутализмом». Тем не менее, он признает его эффективность: «Это единственный класс алгоритмов, который сходится во многих доменах».
- Критикуя позицию Гэри Маркуса о том, что Deep Learning зашёл в тупик, Бах указывает, что текущий «успех» символьных систем в узких задачах — это лишь «большой хак» (набор скриптов), а не принципиальное преимущество в обучении.
- Будущее, по его мнению, лежит в гибридизации: нейронные сети могут научиться использовать дискретные инструменты (например, калькуляторы или алгоритмические структуры) в качестве «периферии» для более точных вычислений.
👁️ Искусство и творчество как внешний процесс 43:24
Обсуждая современные генеративные модели, такие как DALL-E и Disco Diffusion, Бах проводит параллели с проектом Кеннета Стэнли «Picbreeder». Он отмечает, что творчество теперь становится «убер-эффективным внешним процессом».
- Однако Бах подчеркивает: для создания «истинного» ИИ-художника система должна обладать автономным «креативным нексусом» — историей о самой себе, основанной на реальном опыте взаимодействия с миром.
- Без этого модели остаются «хитрыми алгоритмами автозаполнения», которые, несмотря на свою мощь, не обладают подлинным сознанием.
🧬 Природа сознания: Инференция и геометрия чувств 58:45
Бах рассматривает сознание не как мистическую субстанцию, а как «историю, которую физическая система рассказывает сама себе». Сознание возникает в процессе работы с вниманием: рефлексивное внимание позволяет организму моделировать себя как агента в мире.
Критика принципа свободной энергии (FEP) Карла Фристона 1:04:22
Ведущий спрашивает мнение Баха о предложении Карла Фристона, согласно которому сознание — это просто инференция относительно последствий своих действий (самодоказательство с временной глубиной).
- Бах находит эту идею интересной, но недостаточной.
- Он утверждает, что чувства (например, боль) при интроспекции ощущаются как «геометрические» объекты — расширяющиеся или сжимающиеся формы в телесной карте, которые модулируют поведение.
- Чувства — это «интерфейс» между аналитическим аппаратом контроля внимания и системой, представляющей состояние организма.
