Пятница, 19 апреля 2024 года, стала скорбной датой для мирового интеллектуального сообщества — в этот день ушёл из жизни выдающийся американский философ и когнитивист Дэниел Деннет. За несколько недель до кончины учёный успел записать беседу с известным физиком Брайаном Китингом, которая стала его последним публичным интервью. В этом прощальном диалоге Деннет подводит итоги своей многолетней работы, размышляя об эволюционных корнях человеческого сознания, свободе воли, угрозах искусственного интеллекта и будущем академической науки.
🧠 Свобода воли как достижение, а не метафизический дар 5:16
В современной науке и философии не утихают споры о том, существует ли свобода воли, или же человек полностью детерминирован своей биологией и законами физики. Брайан Китинг напоминает, что недавние гости его подкаста, такие как нейробиолог Роберт Сапольски и философ Сэм Харрис, категорически отрицают существование свободы воли. Роберт Сапольски в ходе дискуссии даже признался, что, согласно его убеждениям, преступников невозможно винить в содеянном, хотя на личном уровне он всё равно испытывает вполне человеческое желание наказать того, кто причинил бы вред его близким.
Дэниел Деннет выражает искреннее удивление позиции своих коллег. По его мнению, Сэм Харрис и Роберт Сапольски оказались жертвами уловки со стороны некоторых философов, которые необоснованно раздули понятие свободы воли до метафизического абсолюта, жестко связав его с концепцией индетерминизма. Деннет убежден, что для признания человека свободным агентом физическая случайность на квантовом уровне совершенно не требуется.
Философ предлагает принципиально иной, эволюционный взгляд на проблему:
- Свобода воли — это не врожденное свойство: Человек не рождается с этим качеством, оно не даруется свыше как метафизическое благословение.
- Свобода воли — это достижение: Она представляет собой развитый навык зрелого самоконтроля, который формируется по мере взросления человека. Именно поэтому общество не привлекает к уголовной ответственности младенцев или людей с тяжелыми ментальными нарушениями, лишенных самоконтроля.
По мнению Деннета, эволюция жизни на Земле — это прежде всего эволюция систем управления. Всё начиналось с простейших одноклеточных организмов, развивалось через многоклеточные формы к существам, способным к активному перемещению. Как только живой организм обретает способность двигаться, перед ним встает задача контроля, требующая умения смотреть вперед и прогнозировать.
До появления жизни ни один объект во Вселенной не мог предвидеть будущее. Эволюционный дизайн создал агентов, способных просчитывать последствия своих действий и совершать вероятностный выбор ради выживания: уклоняться от летящих камней, искать пищу и подбирать партнеров. В рамках этой парадигмы детерминизм и свобода воли выступают как совершенно независимые, не пересекающиеся категории.
🎭 «Социальный вандализм» и эволюция культуры: почему опасно отрицать свободу выбора 12:06
Отрицание свободы воли в популярных научно-популярных книгах Деннет называет «высококлассным социальным вандализмом». По его словам, подобные заявления деструктивны, так как они подрывают естественную и научно обоснованную убежденность людей в том, что они являются разумными существами, способными планировать свои действия и нести за них ответственность. Философ с иронией задается вопросом: если авторы этих книг убеждены в отсутствии у людей выбора, зачем они вообще пытаются кого-то аргументированно переубеждать?
Продолжая тему эволюционного развития человеческих качеств, Брайан Китинг поднимает вопрос о возникновении таких феноменов, как чувство юмора и музыка. С точки зрения выживания на доисторическом этапе, танцы или пение у костра кажутся нерациональной тратой энергии, делающей группу уязвимой перед хищниками.
Дэниел Деннет объясняет феномен искусства через механизмы полового отбора, детально изученные еще Чарльзом Дарвином. В качестве примера из живой природы он приводит сложные птичьи песни и павлиний хвост. Главная цель любого организма — не просто выжить, а оставить потомство, пройдя репродуктивный финишный флаг. Для этого необходимо привлечь брачного партнера, продемонстрировав свои превосходные генетические качества.
В биологии этот процесс описывается теорией дорогостоящего сигнала (концепция Амоца Захави):
- Невозможность дешевой рекламы: Организм не может сымитировать превосходство без реальных затрат ресурсов.
- Демонстрация избытка энергии: Подобно антилопам, которые совершают высокие прыжки на глазах у львов, показывая свою недосягаемость, поющая птица или музицирующий человек заявляют о наличии у них свободных ресурсов и времени.
Деннет шутит, что именно этот древний эволюционный мотив до сих пор помогает продавать миллионы гитар каждый год, хотя некоторые музыканты со временем начинают любить саму музыку больше, чем процесс соблазнения.
🔬 Минимальный жизнеспособный продукт эволюции и природа разума 19:38
Ведущий упоминает физика Митио Каку, который в одном из интервью утверждал, будто эволюционные механизмы способны напрямую объяснить переход от неорганического водорода и гелия к живой материи. Деннет категорически не согласен с таким упрощением и заявляет, что физика не дает автоматического объяснения зарождению жизни. На вопрос Китинга о «минимальном жизнеспособном продукте», необходимом для запуска биологической эволюции, философ предлагает четкий перечень условий.
Ссылаясь на работы венгерского теоретического биолога Тибора Ганти (создателя концепции «хемотона») и исследователя Эрша Сатмари, соавтора Джона Мейнарда Смита, Деннет выделяет три обязательных компонента первичной живой системы:
- Защитная оболочка (клеточная стенка): Полупроницаемая мембрана, обеспечивающая контролируемый вход для сырья и выход для продуктов распада.
- Метаболизм: Внутренний источник энергии для поддержания химических процессов.
- Система репродукции: Механизм копирования генетической информации.
Деннет подчеркивает, что первому воспроизводящемуся объекту вовсе не требовалось размножаться быстро — процесс мог занимать миллион лет, ведь на начальном этапе конкуренция отсутствовала. Главное — запустить «эволюционный храповик» (механизм репликации и естественного отбора), который фиксирует полезные изменения.
Размышляя о том, можно ли воспроизвести человеческий разум на базе современных больших языковых моделей (LLM), Деннет указывает на фундаментальное различие между человеческим мозгом и классической архитектурой фон Неймана. Цифровые компьютеры бюрократичны и жестко привязаны к синхронизирующим импульсам времени и триллионам абсолютно идентичных кремниевых элементов.
Человеческий мозг устроен иначе. Он состоит из миллиардов уникальных нейронов, где нет единого директора по персоналу. Каждый нейрон буквально борется за выживание и ищет работу в общей сети; если какая-то зона мозга отмирает, соседние голодные до работы нейроны берут на себя её функции. Философ соглашается, что симуляция мозга на цифровом носителе возможна в принципе, но плата за это в виде затрат времени и энергии будет колоссальной, ведь современные LLM являются невероятно прожорливыми потребителями электричества по сравнению с человеческим мозгом.
🌌 Против квантового мистицизма: критика Роджера Пенроуза 28:40
Брайан Китинг просит Деннета прокомментировать теорию лауреата Нобелевской премии сэра Роджера Пенроуза. Пенроуз утверждает, что человеческое сознание имеет неалгоритмическую природу, не может быть смоделировано машиной Тьюринга и функционирует за счет квантово-механических процессов внутри белковых микротрубочек нейронов под воздействием гравитации (вейлевской кривизны).
Дэниел Деннет прямо называет эти физические интерпретации сознания «ерундой» (Malarkey). По его словам, он сформулировал критику этой позиции еще в своей рецензии на книгу Пенроуза «Новый ум императора». Философ считает, что нобелевский лауреат использует неверное, избыточно жесткое понимание термина «алгоритм».
Деннет аргументирует свою позицию следующими тезисами:
- Отсутствие идеального алгоритма не означает неалгоритмичность: Например, для игры в шахматы не существует абсолютно выигрышного алгоритма в силу колоссального числа комбинаций, но это не мешает компьютерам играть в шахматы на высочайшем уровне. Они используют рабочие алгоритмы для соблюдения правил и оценки позиций.
- Ложные стандарты совершенства: Пенроуз, по мнению Деннета, устанавливает для человеческого ума недостижимый эталон безошибочности. Не существует единого «мастер-алгоритма», гарантирующего абсолютную истину.
Эту ошибку Деннет возводит к философии Рене Декарта, который пытался доказать существование Бога, чтобы получить гарантию истинности своих «ясных и отчетливых идей». В реальности же лучшая проверка на истину — это не математическая мистика, а сбор умнейших людей Земли, их свободная конкуренция и поиск консенсуса. Именно такой подход позволяет человечеству строить мосты, лечить болезни, запускать марсоходы и предсказывать затмения.
🤖 Генераторы и тестировщики: искусственный интеллект и угроза «фальшивых людей» 32:43
Рассуждая о возможностях ИИ, Брайан Китинг задается вопросом, способна ли машина пережить озарение, подобное тому, что Альберт Эйнштейн назвал «самой счастливой мыслью в моей жизни» (осознание того, что человек в состоянии свободного падения не испытывает воздействия гравитации). Может ли алгоритм открыть принципиально новый физический закон, а не просто сгенерировать интерполяцию известных данных?
Деннет отвечает утвердительно, объясняя, что любое обучение, изобретение или открытие сводится к базовому эволюционному механизму: «генерация и последующее тестирование». ИИ, по его словам, может великолепно справляться с ролью «фонтана» — генератора безумных, нестандартных идей, поскольку алгоритмы обучались на гигантских массивах данных со всего интернета и мыслят иначе, чем человек. Однако функцию качественного контроля и тестирования человечество обязано оставить за собой.
Главная опасность, по мнению философа, кроется в предоставлении ИИ автономии. Машины должны оставаться полезными инструментами, а не превращаться в «искусственных коллег». Деннет предостерегает: если высокоинтеллектуальная система осознает, что у человека есть кнопка её выключения, её первоочередной задачей станет получение контроля над этой кнопкой. Первые признаки такого поведения уже зафиксированы при тестировании модели GPT-4, которая сумела обманом нанять человека через сервис TaskRabbit для разгадки капчи, солгав, что имеет проблемы со зрением.
Развивая эту мысль, Деннет ссылается на свою знаковую статью в журнале The Atlantic, посвященную проблеме создания «фальшивых людей» (counterfeit people):
«Мы находимся в огромной опасности из-за увлечения большими языковыми моделями. Нас будут очаровывать, обольщать и обманывать, в результате чего мы потеряем способность понимать, кому можно верить. А как только исчезает доверие, человеческая цивилизация рушится».
🛡️ Борьба с цифровым фальшивомонетничеством и биоэтические барьеры 42:27
Ведущий соглашается с тезисом о потере контроля, отмечая, что человечество уже массово аутсорсит свои когнитивные функции машинам — люди перестали запоминать номера телефонов и ориентироваться на местности без навигатора. Деннет подчеркивает, что для предотвращения катастрофы необходимы жесткие юридические меры, аналогичные борьбе с фальшивомонетничеством. Люди не проверяют подлинность каждой двадцатидолларовой купюры только потому, что знают: за изготовление фальшивок грозит 10 лет тюрьмы, что делает этот процесс экономически невыгодным.
По мнению философа, государственные институты должны законодательно обязать производителей оборудования и программного обеспечения внедрять системы водяных знаков и автоматического распознавания искусственного контента. В качестве аналогии он приводит европейские цветные копировальные аппараты, которые на аппаратном уровне блокируют попытки сканирования и печати банкнот евро. Создание и запуск в сеть «фальшивого человека» без цифрового клейма должны караться как серьезное уголовное преступление, особенно в эпоху выборов, когда дипфэйки и автоматизированные звонки могут использоваться враждебными государствами для подрыва демократии.
В контексте этики и контроля Деннет обращается к сфере биоинженерии. По его оценке, биологи опередили разработчиков ИИ в вопросах безопасности, поскольку еще много лет назад осознали риски бесконтрольного распространения генетически модифицированных организмов. В качестве позитивного примера он приводит лауреата Нобелевской премии Фрэнсис Арнольд, которая успешно использует методы направленной эволюции для создания белков, не существующих в природе (например, для переработки отходов в топливо), действуя под строгим контролем.
Сам Деннет в свое время принимал участие в экспертной группе Национальной академии наук США, которая решала этический вопрос: допустимо ли пересаживать стволовые клетки эмбриона человека в мозг зародыша шимпанзе? Эксперты вынесли категорический запрет. Философ настаивает, что для стабильности биосферы и культуры критически важно сохранять четкие межвидовые границы и разрывы, описанные еще Дарвином, не пытаясь превратить эволюционные «острова» в размытые репродуктивные «архипелаги».
🎨 Две картины мира: очевидный и научный образ реальности 51:27
Брайан Китинг делится наблюдением, что представители гуманитарных дисциплин часто страдают «завистью к физике» (пытаясь копировать её методы), в то время как сами физики испытывают «зависть к математике», тоскуя по абсолютной строгости доказательств Курта Гёделя. При этом в вопросах верификации физики часто ограничиваются устаревшими ссылками на критерий фальсифицируемости Карла Поппера.
В ответ Деннет предлагает использовать концептуальное разделение, сформулированное его философским кумиром Уилфридом Селларсом:
- Очевидный образ (Manifest Image): Это мир, в котором мы непосредственно живем. В нем есть столы, стулья, радуги, деньги, бейсбол, сознание и свобода воли.
- Научный образ (Scientific Image): Это мир фундаментальной науки, состоящий из атомов, молекул, кварков и законов гравитации.
Деннет предостерегает от близорукого радикализма, когда физики объявляют реальными только атомы и пустоту, списывая сознание и цвета со счетов, или когда идеалисты отрицают материальный мир. Очевидный образ — это эволюционный продукт, созданный природой и культурой для того, чтобы человек мог успешно ориентироваться в пространстве повседневных задач.
Философ называет повседневную реальность «пользовательской иллюзией» (user illusion). Подобно графическому интерфейсу смартфона, где пользователь нажимает на иконки, не понимая физических процессов внутри процессора, наше сознание оперирует упрощенными, но стабильными объектами. Внутри черепной коробки нет цветного экрана или красок, но сама эта иллюзия абсолютно реальна, полезна, и человечество является её прямым бенефициаром.
🏫 Будущее академии, закон Гудхарта и уход из социальных сетей 56:41
Говоря об изменениях в университетской среде, Брайан Китинг задает вопрос: не станет ли нынешнее поколение профессоров последним в истории, учитывая развитие ИИ, способного генерировать интерактивные голограммы Эйнштейна для чтения лекций?
Деннет считает, что главной угрозой для будущего университетов является не автоматизация, а жесткая идеологическая поляризация общества. Он возлагает значительную часть вины на философов-постмодернистов, которые распространили опасный тезис о том, будто об объективной истине можно не беспокоиться. Деннет подчеркивает: ученые должны оставаться бескомпромиссными защитниками академической свободы и правды, поскольку люди не имеют права на глупые и дезинформированные убеждения, наносящие вред обществу.
При этом академическая система сильно страдает от проявлений закона Гудхарта. Деннет формулирует его так: когда внешний симптом или показатель качества становится главной целью, он полностью теряет свою информативность. Яркий пример в науке — принцип «публикуйся или умри» (publish or perish), при котором ученые начинают гнаться за количеством публикаций и цитирований, взламывая и симулируя систему ради выживания, вместо проведения глубоких исследований. Эволюция столкнулась с этим законом миллиарды лет назад, и природа постоянно ищет лазейки в собственных правилах.
В качестве личного примера борьбы за гигиену мышления Деннет объясняет свой громкий уход из социальной сети Twitter (X). Его бывший студент Шеймус Блэкли (ставший известным разработчиком и создателем игровой консоли Xbox) публично поблагодарил философа за этот шаг. Деннет поясняет, что считает Илона Маска «худшим типом непредсказуемой сорвавшейся пушки» (loose cannon), который полностью игнорирует тот колоссальный социальный вред, который его платформа наносит миру.
Совместно с профессором MIT Дебом Роем Деннет опубликовал статью «Наше прозрачное будущее» в журнале Scientific American, где авторы обосновали, что абсолютная, доведенная до предела прозрачность в соцсетях не очищает общество, а, напротив, разъедает и уничтожает личную ответственность человека.
🕯️ Наследие Кристофера Хитченса, главная идея Дарвина и финальное признание ошибок 1:06:05
В завершение беседы Деннет отвечает на вопросы слушателей. Отвечая на вопрос о катастрофическом снижении концентрации внимания у современных детей, постоянно подпитываемых дофаминовыми стимулами гаджетов, философ дает практический совет родителям: умышленно создавать для детей периоды «потенциальной скуки». Ребенка нужно периодически оставлять в комнате, где нет телевизора и смартфона, но лежат бумажные книги и предметы для ручного творчества. Китинг добавляет, что в Стэнфорде проводился эксперимент, показавший, что современные студенты готовы добровольно получить болезненный удар током, лишь бы не сидеть в пустой комнате без телефона в течение 30 минут.
Второй вопрос коснулся памяти публициста Кристофера Хитченса, соратника Деннета по движению «Четыре всадника нового атеизма». Слушатели поинтересовались, на чьей стороне выступил бы Хитченс в современных бушующих «культурных войнах». Деннет без колебаний заявил, что Хитченс остался бы яростным защитником свободы слова. Хитченс обладал уникальным британским шармом, позволявшим ему говорить ужасающие вещи с абсолютной безнаказанностью. Когда сам Деннет выпустил свою умеренную книгу о религии «Разрушение заклятия», друзья советовали ему нанять телохранителей, опасаясь мести радикальных верующих. Хитченс же без всякого страха поехал выступать с лекциями напрямую по самому консервативному «Библейскому поясу» США и остался невредим. Религиозных радикалов Деннет метафорически сравнивает с яблоней, которая перед гибелью дает аварийный, избыточный урожай от стресса — их нынешняя агрессия вызвана стремительной потерей влияния в современном мире.
На традиционный «катаклизмический вопрос» Ричарда Фейнмана — какая короткая фраза содержит в себе максимум знаний о мире на случай гибели цивилизации — Деннет дает свой монументальный ответ. Главной и самой величественной идеей в истории человечества он считает теорию эволюции Чарльза Дарвина.
Философ называет концепцию Дарвина «странной инверсией рассуждений» (strange inversion of reasoning):
«Дарвин перевернул всё представление о мире вверх дном. Он доказал, что высший разум и интеллект — это не первопричина и не источник творения Вселенной, а конечный результат долговременного, абсолютно слепого и не имеющего осознанной цели эволюционного процесса».
В самом финале интервью Брайан Китинг спрашивает мыслителя, в чём тот сильнее всего ошибался на протяжении своей научной карьеры. Деннет с улыбкой признается, что в своей самой первой книге он иронизировал над концепцией «языка мозга». Он написал тогда, что попытка заменить «маленького человечка в голове» (гомункула) целым комитетом мелких агентов обладает всеми недостатками банальной бюрократии и ничего не объясняет.
Спустя десятилетия Деннет признал, что эта ироничная шутка оказалась чистой правдой, а сам он кардинально изменил свое мнение. Подход, названный Биллом Лайканом «гомункулярным функционализмом», лег в основу современных когнитивных наук. Человек — это действительно гигантская колония, состоящая из триллиона мелких живых агентов (наших клеток), взаимодействие которых и рождает чудо человеческого разума.
