В новом выпуске подкаста Machine Learning Street Talk Тим Скарф беседует с легендарным философом, когнитивистом и профессором Университета Тафтса Дэниелом Деннетом. В центре обсуждения — экзистенциальная угроза, исходящая не от мифического сверхразума, а от «поддельных людей» (counterfeit people), создаваемых современным ИИ, которые разрушают доверие — фундамент человеческой цивилизации.
🤖 Феномен «поддельных людей» и крах доверия 11:18
Дэниел Деннет бьет в набат, предупреждая о новой эре технического развития, которую он называет эпохой «поддельных людей» . По мнению философа, чат-боты и большие языковые модели (LLM) стали настолько совершенными, что способны эффективно имитировать человеческое общение, хотя по сути остаются «глупыми системами» .
Основные тезисы Деннета о риске имитации:
- Уязвимость перед онлайном: Поскольку большая часть нашего общения перешла в виртуальную среду, мы становимся легкой добычей для подделок. Если в реальности мы можем пожать руку или почувствовать запах собеседника, то в цифровом мире эти фильтры отсутствуют .
- Эрозия доверия: Появление огромного количества фальшивых личностей в сети заставит людей стать либо параноиками, постоянно проверяющими собеседника «на человечность», либо индифферентными затворниками .
- Угроза цивилизации: Демократия зависит от информированного согласия граждан. Если информацию станет невозможно отличить от дезинформации, сама ткань общества будет разрушена .
Деннет подчеркивает, что главная опасность — не в том, что сильный ИИ (AGI) поработит нас, а в том, что мы позволим гораздо более примитивным системам манипулировать нами и обесценивать человеческую коммуникацию .
🧠 Постэпистемический мир и «прозрачность» действий 14:44
Ведущий обсуждает с Деннетом концепцию «необратимости» (irreversibility), предложенную Лучано Флориди. Смысл в том, что современные модели делают так мало ошибок, что по результату (тексту или ответу) невозможно «отмотать назад» и понять, кто автор: человек или машина .
Позиция Дэниела Деннета:
- Загрязнение нервной системы: Деннет цитирует Эрика Хорвица из Microsoft, говоря о «постэпистемическом мире», где мы больше не можем доверять своим органам чувств. В отличие от глаз или ушей, которые не имеют скрытых мотивов, цифровые системы могут быть спроектированы для намеренного обмана .
- Хозяйский расчет против эволюции: По мнению гостя, эволюция настроила наши чувства так, чтобы они помогали нам выживать, а не обманывали нас без нужды. Технологии же нарушают этот баланс, делая деспотичный обман технически доступным для плохих акторов .
🎭 Интенциональная установка и агентность ИИ 4:48
Один из ключевых вкладов Деннета в философию — теория иннтенциональной установки (intentional stance). Это стратегия интерпретации поведения системы (будь то живое существо или машина) через приписывание ей целей, убеждений и желаний .
Деннет выделяет три типа установок:
- Физическая: объяснение поведения через законы физики/химии .
- Дизайнерская: объяснение через функции и инженерные принципы .
- Интенциональная: отношение к системе как к рациональному агенту для прогнозирования её действий .
В контексте ИИ Деннет утверждает, что хотя мы и приписываем LLM «убеждения», это лишь лингвистическое удобство. По его словам, современные ИИ не обладают полноценной автономией . Они «играют в чат» так же, как шахматная программа играет в шахматы: у них нет морали или долгосрочных целей самосохранения, только задача выиграть в языковую игру .
🎨 Реальные паттерны и критика метафизики 23:16
В разговоре о цвете и восприятии реальности Деннет называет себя «дефляционистом» и реалистом в отношении реальных паттернов (real patterns) .
- Что такое реальность? По мнению Деннета, реально всё то, что является паттерном в данных, на который можно «сделать ставку» и выиграть. То, что отличимо от случайного шума и сжимаемо в информационном смысле .
- Пользовательская иллюзия: Наши чувства создают «доброкачественную иллюзию пользователя». Цвета реальны настолько, насколько реальны краски в магазине, но их нельзя охарактеризовать в отрыве от воспринимающего субъекта .
- Против абсолютизма: Философ критикует Канта и других мыслителей за попытки найти «глубинную реальность» (вещь в себе). Деннет считает такие поиски ненужным раздуванием проблем .
🤺 Декарт против Дарвина: Наука как социальный процесс 32:16
Обсуждая великих мыслителей, Деннет противопоставляет «рационализм» Ноама Хомского (называя его наследником Декарта) своему «дарвинизму» .
- Ошибка Декарта: Деннет утверждает, что Декарт был «самым неправым мыслителем в истории», но его ошибки вдохновили Ньютона и Дарвина . Рационализм Декарта требовал Бога как гаранта истинности идей, что Деннет считает тупиком.
- Коммунальное познание: Истина рождается не в одиночных размышлениях, а в «шуме взаимодействия» с другими умами. Доверие к математике или науке основано на их эмпирической успешности в реальном мире (подсчет коров, балансировка чеков), а не на абстрактных доказательствах .
- Этика спора: Деннет критикует современную философию за излишнюю «бойцовскую» культуру (fisticuffs), где цель — найти контрпример к слогану оппонента, а не продвинуться к пониманию .
🦇 Проблема сознания: Душа из маленьких роботов 1:06:51
Деннет жестко критикует идею «трудной проблемы сознания» Дэвида Чалмерса и «комнату» Джона Сёрла .
Аргументы Деннета против мистики сознания:
- Постепенность (Градвализм): Нет четкой границы между живым и неживым, сознательным и бессознательным. Как биологи перестали искать «жизненную силу» в белках, так и когнитивисты должны перестать искать «квалиа» .
- Метафора роботов: «Да, у нас есть душа, но она сделана из триллионов маленьких роботов» . Наши нейроны и белки — это агенты без разума, чье взаимодействие порождает то, что мы называем личностью.
- Постижимость чужого опыта: Деннет не согласен с Томасом Нагелем в том, что мы не можем понять, «каково это — быть летучей мышью». Он уверен, что наука третьего лица может объяснить всё, что стоит знать о субъективном опыте .
🚀 Отношение к сингулярности и «атеистам ИИ» 1:03:25
К идее технологической сингулярности Деннет относится скептически, называя её «опасным отвлечением» .
- Настоящие угрозы vs Фантазии: Пока «думеры» боятся восстания машин, реальные системы уже сегодня «оглупляют» людей и загрязняют информационную среду. Деннет призывает решать проблемы «здесь и сейчас», такие как ответственность корпораций за создание фейковых личностей .
- Статус AGI: По мнению философа, само понятие Общего Искусственного Интеллекта (AGI) сомнительно с точки зрения когерентности . Нам нужны «умные инструменты», а не «искусственные коллеги» .
Завершая беседу, Деннет подчеркивает, что нам необходимы юридические и технологические барьеры для защиты от ИИ-подделок . Он настаивает: создание цифровых существ, имитирующих людей, — это акт аморального вандализма, за который компании должны нести строгую ответственность .
