# Дж. Марк Бишоп: «Компьютеры никогда не будут понимать»

Источник: https://www.youtube.com/watch?v=e1M41otUtNg
Канал: Machine Learning Street Talk
Опубликовано: 18.02.2021

---

## «Искусственный интеллект глуп»: Дж. Марк Бишоп о пределах вычислений и природе сознания
[[JUMP:0:06]]

Современные дискуссии о «сверхразумном» ИИ часто игнорируют фундаментальные философские ограничения самой природы вычислений. Профессор когнитивных наук Дж. Марк Бишоп в интервью подкасту *Machine Learning Street Talk* утверждает, что существующие алгоритмы принципиально не способны к пониманию или обретению сознания. Вместе с ведущим доктором Тимом Скарфом он разбирает, почему попытки свести человеческий разум к цепочке вычислений ведут к абсурдным философским выводам, и предлагает искать ответы в концепциях воплощенного познания.

### 🤖 Ловушка вычислительного подхода
[[JUMP:16:37]]

Доминирующая в науке XX века парадигма рассматривала мозг как биологический компьютер, а сознание — как продукт работы «нейронного программного обеспечения». Профессор Бишоп называет этот подход «вычислительным» (computationalism) и считает его фундаментально ошибочным.

По его мнению, существуют веские аргументы против возможности возникновения сознания в компьютерных симуляциях:

*   **Отсутствие выбора:** В отличие от живых существ, компьютерная система строго ограничена логикой своих операций; она не обладает автономностью, а лишь выполняет заданный алгоритм.
*   **Относительность вычислений:** С точки зрения Бишопа, вычисление — это не объективный факт физического мира, а процесс, зависящий от интерпретации наблюдателем.
*   **Проблема «Танца с пикси» (Dancing with Pixies):** Бишоп развивает аргумент философа Хиллари Патнэма, утверждая, что если допустить, что сознание возникает из выполнения любой компьютерной программы, то пришлось бы признать, что сознанием обладают даже простейшие физические объекты — от камней до дверных замков, если в их динамике можно «увидеть» вычислительный процесс.

### 🧠 Почему «китайская комната» всё ещё актуальна
[[JUMP:12:59]]

Дж. Марк Бишоп активно поддерживает «аргумент китайской комнаты» Джона Сёрла. Согласно этому мысленному эксперименту:

1.  Человек, не знающий китайского языка, заперт в комнате с набором инструкций (правил), позволяющих манипулировать иероглифами.
2.  Получая вопросы на китайском, он следует книге правил и выдает корректные ответы, неотличимые от ответов носителя языка.
3.  Тем не менее, этот человек не понимает ни слова по-китайски — он лишь механически обрабатывает символы.

По словам профессора, современные языковые модели типа GPT-3 работают по тому же принципу: они блестяще имитируют осмысленную коммуникацию, но лишены семантического наполнения. Как утверждает Бишоп, «синтаксис не является достаточным условием для семантики».

### 🌍 Воплощенное сознание и автономность
[[JUMP:54:02]]

Если вычислительная модель ошибочна, то что же делает нас разумными? Бишоп склоняется к идеям «воплощенного» (embodied) и «активного» (enactive) познания. Его ключевые тезисы:

*   **Автопоэзис:** Жизнь — это система, способная к самовоспроизводству и поддержанию своих границ в меняющейся среде.
*   **Значимость боли:** Феноменальное сознание (способность «чувствовать») могло эволюционировать как механизм для выбора действий, помогающий организму избегать опасных ситуаций.
*   **Язык как фильтр:** Исследования цветового восприятия у племени химба показывают, что язык, на котором мы говорим, буквально меняет то, как мы видим мир, что подтверждает социальную обусловленность нашего интеллекта.

### 🔢 Невычислимость человеческого разума
[[JUMP:12:47]]

В завершение дискуссии профессор обращается к теореме Гёделя о неполноте. Он отмечает, что математические инсайты человеческого разума, по-видимому, не сводимы к процедурам какой-либо формальной системы.

Профессор Бишоп заключает: попытки создать искусственный интеллект, способный по-настоящему «понимать», обречены на провал, если мы продолжаем рассматривать мозг исключительно как машину по обработке данных. Настоящий прогресс, по его мнению, лежит в плоскости изучения автономных систем, встроенных в реальную биологическую и социальную среду.