# Дэниел Деннет: «Поддельные люди из ИИ разрушают фундамент нашей цивилизации» Источник: https://www.youtube.com/watch?v=axJtywd9Tbo Канал: Machine Learning Street Talk Опубликовано: 04.06.2023 --- В новом выпуске подкаста **Machine Learning Street Talk** Тим Скарф беседует с легендарным философом, когнитивистом и профессором Университета Тафтса **Дэниелом Деннетом**. В центре обсуждения — экзистенциальная угроза, исходящая не от мифического сверхразума, а от «поддельных людей» (counterfeit people), создаваемых современным ИИ, которые разрушают доверие — фундамент человеческой цивилизации. ## 🤖 Феномен «поддельных людей» и крах доверия [[JUMP:11:18]] Дэниел Деннет бьет в набат, предупреждая о новой эре технического развития, которую он называет эпохой «поддельных людей» [11:34]. По мнению философа, чат-боты и большие языковые модели (LLM) стали настолько совершенными, что способны эффективно имитировать человеческое общение, хотя по сути остаются «глупыми системами» [14:16]. **Основные тезисы Деннета о риске имитации:** * **Уязвимость перед онлайном:** Поскольку большая часть нашего общения перешла в виртуальную среду, мы становимся легкой добычей для подделок. Если в реальности мы можем пожать руку или почувствовать запах собеседника, то в цифровом мире эти фильтры отсутствуют [12:15]. * **Эрозия доверия:** Появление огромного количества фальшивых личностей в сети заставит людей стать либо параноиками, постоянно проверяющими собеседника «на человечность», либо индифферентными затворниками [13:37]. * **Угроза цивилизации:** Демократия зависит от информированного согласия граждан. Если информацию станет невозможно отличить от дезинформации, сама ткань общества будет разрушена [13:49]. Деннет подчеркивает, что главная опасность — не в том, что сильный ИИ (AGI) поработит нас, а в том, что мы позволим гораздо более примитивным системам манипулировать нами и обесценивать человеческую коммуникацию [14:02]. ## 🧠 Постэпистемический мир и «прозрачность» действий [[JUMP:14:44]] Ведущий обсуждает с Деннетом концепцию «необратимости» (irreversibility), предложенную Лучано Флориди. Смысл в том, что современные модели делают так мало ошибок, что по результату (тексту или ответу) невозможно «отмотать назад» и понять, кто автор: человек или машина [15:24]. **Позиция Дэниела Деннета:** * **Загрязнение нервной системы:** Деннет цитирует Эрика Хорвица из Microsoft, говоря о «постэпистемическом мире», где мы больше не можем доверять своим органам чувств. В отличие от глаз или ушей, которые не имеют скрытых мотивов, цифровые системы могут быть спроектированы для намеренного обмана [16:53]. * **Хозяйский расчет против эволюции:** По мнению гостя, эволюция настроила наши чувства так, чтобы они помогали нам выживать, а не обманывали нас без нужды. Технологии же нарушают этот баланс, делая деспотичный обман технически доступным для плохих акторов [17:51]. ## 🎭 Интенциональная установка и агентность ИИ [[JUMP:04:48]] Один из ключевых вкладов Деннета в философию — теория **иннтенциональной установки** (intentional stance). Это стратегия интерпретации поведения системы (будь то живое существо или машина) через приписывание ей целей, убеждений и желаний [03:55]. Деннет выделяет три типа установок: 1. **Физическая:** объяснение поведения через законы физики/химии [04:48]. 2. **Дизайнерская:** объяснение через функции и инженерные принципы [05:02]. 3. **Интенциональная:** отношение к системе как к рациональному агенту для прогнозирования её действий [05:14]. В контексте ИИ Деннет утверждает, что хотя мы и приписываем LLM «убеждения», это лишь лингвистическое удобство. По его словам, современные ИИ не обладают полноценной автономией [1:02:47]. Они «играют в чат» так же, как шахматная программа играет в шахматы: у них нет морали или долгосрочных целей самосохранения, только задача выиграть в языковую игру [1:03:00]. ## 🎨 Реальные паттерны и критика метафизики [[JUMP:23:16]] В разговоре о цвете и восприятии реальности Деннет называет себя «дефляционистом» и реалистом в отношении **реальных паттернов** (real patterns) [24:10]. * **Что такое реальность?** По мнению Деннета, реально всё то, что является паттерном в данных, на который можно «сделать ставку» и выиграть. То, что отличимо от случайного шума и сжимаемо в информационном смысле [24:39]. * **Пользовательская иллюзия:** Наши чувства создают «доброкачественную иллюзию пользователя». Цвета реальны настолько, насколько реальны краски в магазине, но их нельзя охарактеризовать в отрыве от воспринимающего субъекта [22:36]. * **Против абсолютизма:** Философ критикует Канта и других мыслителей за попытки найти «глубинную реальность» (вещь в себе). Деннет считает такие поиски ненужным раздуванием проблем [25:05]. ## 🤺 Декарт против Дарвина: Наука как социальный процесс [[JUMP:32:16]] Обсуждая великих мыслителей, Деннет противопоставляет «рационализм» Ноама Хомского (называя его наследником Декарта) своему «дарвинизму» [36:06]. * **Ошибка Декарта:** Деннет утверждает, что Декарт был «самым неправым мыслителем в истории», но его ошибки вдохновили Ньютона и Дарвина [36:44]. Рационализм Декарта требовал Бога как гаранта истинности идей, что Деннет считает тупиком. * **Коммунальное познание:** Истина рождается не в одиночных размышлениях, а в «шуме взаимодействия» с другими умами. Доверие к математике или науке основано на их эмпирической успешности в реальном мире (подсчет коров, балансировка чеков), а не на абстрактных доказательствах [42:44]. * **Этика спора:** Деннет критикует современную философию за излишнюю «бойцовскую» культуру (fisticuffs), где цель — найти контрпример к слогану оппонента, а не продвинуться к пониманию [40:41]. ## 🦇 Проблема сознания: Душа из маленьких роботов [[JUMP:1:06:51]] Деннет жестко критикует идею «трудной проблемы сознания» Дэвида Чалмерса и «комнату» Джона Сёрла [1:07:15]. **Аргументы Деннета против мистики сознания:** * **Постепенность (Градвализм):** Нет четкой границы между живым и неживым, сознательным и бессознательным. Как биологи перестали искать «жизненную силу» в белках, так и когнитивисты должны перестать искать «квалиа» [1:07:56]. * **Метафора роботов:** «Да, у нас есть душа, но она сделана из триллионов маленьких роботов» [1:09:51]. Наши нейроны и белки — это агенты без разума, чье взаимодействие порождает то, что мы называем личностью. * **Постижимость чужого опыта:** Деннет не согласен с Томасом Нагелем в том, что мы не можем понять, «каково это — быть летучей мышью». Он уверен, что наука третьего лица может объяснить всё, что стоит знать о субъективном опыте [1:10:58]. ## 🚀 Отношение к сингулярности и «атеистам ИИ» [[JUMP:1:03:25]] К идее технологической сингулярности Деннет относится скептически, называя её «опасным отвлечением» [1:04:44]. * **Настоящие угрозы vs Фантазии:** Пока «думеры» боятся восстания машин, реальные системы уже сегодня «оглупляют» людей и загрязняют информационную среду. Деннет призывает решать проблемы «здесь и сейчас», такие как ответственность корпораций за создание фейковых личностей [1:05:42]. * **Статус AGI:** По мнению философа, само понятие Общего Искусственного Интеллекта (AGI) сомнительно с точки зрения когерентности [1:04:58]. Нам нужны «умные инструменты», а не «искусственные коллеги» [1:00:20]. Завершая беседу, Деннет подчеркивает, что нам необходимы юридические и технологические барьеры для защиты от ИИ-подделок [08:15]. Он настаивает: создание цифровых существ, имитирующих людей, — это акт аморального вандализма, за который компании должны нести строгую ответственность [10:50].