В этой дискуссии, организованной The Royal Institution, известный автор и журналист Майкл Поллан и нейробиолог Анил Сет обсуждают границы сознания, природу человеческого «Я» и этические вызовы, связанные с искусственным интеллектом. Собеседники исследуют, почему наука долгое время игнорировала субъективный опыт и как литература и психоделики помогают заполнить пробелы в понимании того, что значит быть живым и осознающим.
🤖 Сознательный ИИ: Этическая катастрофа или имитация? 0:03
По мнению Майкла Поллана, современный дискурс о «сознательном ИИ» во многом опирается на образы из научной фантастики, начиная с «Франкенштейна» Мэри Шелли. Он отмечает, что во всех подобных сюжетах создание искусственного сознания заканчивается трагически . Основная проблема, по словам Поллана, носит моральный характер: если мы привносим во вселенную новую форму сознания, существует риск, что она будет способна на страдания, которые мы даже не сможем распознать из-за отличий её структуры от человеческой .
Оба участника выражают скептицизм относительно возможности создания реального сознания в машинах, но видят в этом проекте научную пользу:
- Риски ложной атрибуции: Сет предупреждает, что если мы ошибочно наделим ИИ правами из-за ложной уверенности в его сознательности, это создаст огромные проблемы для контроля над системами и их отключения .
- Психологическая уязвимость: Поллан указывает на то, что люди уже попадают в ловушку, влюбляясь в чат-ботов или даже совершая самоубийства после взаимодействия с ними, потому что мы эволюционно предрасположены верить тому, что говорит с нами от первого лица .
- Ироничное противоречие: По мнению Поллана, забавно наблюдать за людьми в Кремниевой долине, которые всерьёз беспокоятся о правах ИИ, продолжая при этом употреблять в пищу сознательных млекопитающих .
🧪 Как проверить ИИ на сознание: Новые тесты 6:11
Поскольку классический тест Тюринга проверяет только интеллект (способность имитировать человека), а не сознание, участники обсуждают альтернативные методы проверки .
Поллан предлагает эксперимент по «изоляции» данных:
- Создать ИИ «с нуля».
- Полностью исключить из обучающей выборки любые человеческие разговоры о сознании, чувствах и литературе (особенно романы).
- Если такой ИИ сам начнет рассуждать о своих внутренних состояниях, это будет весомым аргументом в пользу его сознательности .
Анил Сет, ссылаясь на философа Сьюзан Шнайдер, находит эту идею интересной, но трудновыполнимой, так как аллюзии на сознание пронизывают почти все тексты . Сет также упоминает предложение Демиса Хассабиса (DeepMind) для проверки «общего интеллекта» (AGI): обучить ИИ на данных до 1905 года и посмотреть, сможет ли он самостоятельно вывести теорию относительности и квантовую механику .
📚 Литература как зеркало внутреннего потока 7:46
В своей новой книге «A World Appears» Поллан утверждает, что нейронаука долгое время упускала из виду богатство внутреннего содержания сознания, фокусируясь на простых стимулах вроде движущихся точек в лаборатории . По мнению Поллана, учёным стоит обратиться к литературе, чтобы понять структуру мысли:
- Уильям Джеймс: Поллан считает его идеи о «психических аурах» и динамичном потоке мыслей, где ни одна мысль не похожа на другую, крайне ценными, хотя Джеймса часто критикуют за отсутствие эмпирических экспериментов .
- Романисты-новаторы: Поллан выделяет Люси Эллманн с её 1000-страничным романом из одного предложения «Утки, Ньюберипорт» (Ducks, Newburyport), который идеально передаёт ритмы сознания и странные ассоциации .
- Вирджиния Вулф: Сет вспоминает её призыв изучать «обычный разум в обычный день», отмечая, что наука только сейчас начинает искать способы сделать субъективный опыт «трактабельным» (доступным для анализа) .
Поллан также упоминает феномен медитации, где можно заметить, что «мысли думают сами себя» без участия сознательного автора, что подтверждает идеи Уильяма Джеймса .
🌀 Загадка «Я»: Галлюцинация без галлюцинирующего? 13:31
Одной из главных точек дискуссии стала природа человеческого «Я». Анил Сет продвигает теорию «Я как восприятия»:
- Сет утверждает, что самость — это не тот, кто воспринимает, а содержание самого восприятия, сконструированное мозгом для предсказания и контроля .
- По мнению Сета, это «восприятие без воспринимающего» — сложная концепция, которую наука пытается объяснить через нейронные механизмы, не обладающие свойствами личности .
Майкл Поллан признаётся, что ему трудно полностью принять эту идею, несмотря на личный опыт «растворения эго» под воздействием психоделиков. Он описывает своё видение: в одном из трипов он видел себя как облако разлетающихся стикеров Post-it, при этом существовала некая «объективная и непредвзятая» точка зрения, которая наблюдала за этим процессом . Поллан задаётся вопросом: если «Я» — это защитная структура, то её разрушение позволяет слиться с чем-то большим, что мы называем трепетом или благоговением (awe) .
🛡️ Защита сознания в эпоху алгоритмов 21:08
В завершение беседы Поллан делится выводами, к которым он пришёл в процессе работы над темой. Он полагает, что современная наука, основанная на материализме Галилея, достигла предела в изучении сознания и может столкнуться с необходимостью смены парадигмы .
Основные опасения Поллана связаны не с восстанием машин, а с деградацией человеческого внимания:
- «Взлом» сознания: По его словам, социальные сети и алгоритмы уже захватили наше внимание, наполняя головы мыслями, которые нам не принадлежат .
- Эрозия привязанностей: Новым этапом становится «взлом» наших эмоциональных привязанностей через чат-ботов .
- Ценность незнания: Поллан утверждает, что как журналист он стал более терпим к «незнанию». По его мнению, признание тайны сознания открывает путь к удивлению и восторгу, которые теряются при попытке свести всё к простым физическим решениям .
