«Искусственный интеллект глуп»: Дж. Марк Бишоп о пределах вычислений и природе сознания 0:06
Современные дискуссии о «сверхразумном» ИИ часто игнорируют фундаментальные философские ограничения самой природы вычислений. Профессор когнитивных наук Дж. Марк Бишоп в интервью подкасту Machine Learning Street Talk утверждает, что существующие алгоритмы принципиально не способны к пониманию или обретению сознания. Вместе с ведущим доктором Тимом Скарфом он разбирает, почему попытки свести человеческий разум к цепочке вычислений ведут к абсурдным философским выводам, и предлагает искать ответы в концепциях воплощенного познания.
🤖 Ловушка вычислительного подхода 16:37
Доминирующая в науке XX века парадигма рассматривала мозг как биологический компьютер, а сознание — как продукт работы «нейронного программного обеспечения». Профессор Бишоп называет этот подход «вычислительным» (computationalism) и считает его фундаментально ошибочным.
По его мнению, существуют веские аргументы против возможности возникновения сознания в компьютерных симуляциях:
- Отсутствие выбора: В отличие от живых существ, компьютерная система строго ограничена логикой своих операций; она не обладает автономностью, а лишь выполняет заданный алгоритм.
- Относительность вычислений: С точки зрения Бишопа, вычисление — это не объективный факт физического мира, а процесс, зависящий от интерпретации наблюдателем.
- Проблема «Танца с пикси» (Dancing with Pixies): Бишоп развивает аргумент философа Хиллари Патнэма, утверждая, что если допустить, что сознание возникает из выполнения любой компьютерной программы, то пришлось бы признать, что сознанием обладают даже простейшие физические объекты — от камней до дверных замков, если в их динамике можно «увидеть» вычислительный процесс.
🧠 Почему «китайская комната» всё ещё актуальна 12:59
Дж. Марк Бишоп активно поддерживает «аргумент китайской комнаты» Джона Сёрла. Согласно этому мысленному эксперименту:
- Человек, не знающий китайского языка, заперт в комнате с набором инструкций (правил), позволяющих манипулировать иероглифами.
- Получая вопросы на китайском, он следует книге правил и выдает корректные ответы, неотличимые от ответов носителя языка.
- Тем не менее, этот человек не понимает ни слова по-китайски — он лишь механически обрабатывает символы.
По словам профессора, современные языковые модели типа GPT-3 работают по тому же принципу: они блестяще имитируют осмысленную коммуникацию, но лишены семантического наполнения. Как утверждает Бишоп, «синтаксис не является достаточным условием для семантики».
🌍 Воплощенное сознание и автономность 54:02
Если вычислительная модель ошибочна, то что же делает нас разумными? Бишоп склоняется к идеям «воплощенного» (embodied) и «активного» (enactive) познания. Его ключевые тезисы:
- Автопоэзис: Жизнь — это система, способная к самовоспроизводству и поддержанию своих границ в меняющейся среде.
- Значимость боли: Феноменальное сознание (способность «чувствовать») могло эволюционировать как механизм для выбора действий, помогающий организму избегать опасных ситуаций.
- Язык как фильтр: Исследования цветового восприятия у племени химба показывают, что язык, на котором мы говорим, буквально меняет то, как мы видим мир, что подтверждает социальную обусловленность нашего интеллекта.
🔢 Невычислимость человеческого разума 12:47
В завершение дискуссии профессор обращается к теореме Гёделя о неполноте. Он отмечает, что математические инсайты человеческого разума, по-видимому, не сводимы к процедурам какой-либо формальной системы.
Профессор Бишоп заключает: попытки создать искусственный интеллект, способный по-настоящему «понимать», обречены на провал, если мы продолжаем рассматривать мозг исключительно как машину по обработке данных. Настоящий прогресс, по его мнению, лежит в плоскости изучения автономных систем, встроенных в реальную биологическую и социальную среду.
