# Мелани Митчелл: «Интеллект — это не набор данных, а способность создавать аналогии»

Источник: https://www.youtube.com/watch?v=UP3uCDg7lpQ
Канал: The TWIML AI Podcast
Опубликовано: 24.03.2021

---

Сложные адаптивные системы, биологические механизмы познания и поиск «недостающего звена» в архитектуре нейросетей — эти темы стали центральными в беседе ведущего подкаста TWIML AI Сэма Чаррингтона с Мелани Митчелл. Митчелл, профессор сложности в Институте Санта-Фе и автор книги «Искусственный интеллект: гид для мыслящих людей», привносит в дискуссию об ИИ редкую перспективу, объединяющую математику, когнитивистику и теорию сложных систем.

## 🧬 Путь в науку: от Гёделя к генетическим алгоритмам
[[JUMP:0:42]]

Мелани Митчелл пришла в сферу искусственного интеллекта не через классическое программирование, а благодаря увлечению математикой и влиянию философии. Решающую роль в её карьере сыграла книга Дугласа Хофштадтера «Гёдель, Эшер, Бах: эта бесконечная золотая цепь» [1:00]. Вдохновившись идеями автора, Митчелл убедила его стать её научным руководителем в Мичиганском университете, несмотря на отсутствие базового образования в Computer Science на тот момент [1:22].

В ходе обучения она работала не только с Хофштадтером, но и с Джоном Холландом, пионером генетических алгоритмов. Этот опыт сформировал её междисциплинарный подход, который Митчелл называет «немейнстримным» обучением в области когнитивистики и эволюционных вычислений [1:47].

## 🧠 Интеллект как эмерджентное свойство сложности
[[JUMP:01:59]]

Работая в Институте Санта-Фе, Митчелл исследует интеллект через призму теории сложных систем. Она выделяет несколько ключевых аспектов этого подхода:

*   **Эмерджентность:** понимание того, как коллектив относительно простых элементов (например, миллиардов нейронов в мозге) порождает сложные свойства, такие как сознание и познание [2:55].
*   **Природный интеллект:** изучение интеллекта не только у людей, но и у насекомых, в экономиках, культурах и даже в иммунной системе [3:36].
*   **Социальный фактор:** по мнению Митчелл, интеллект мог эволюционировать именно как ответ на необходимость социального взаимодействия у приматов [6:14].

Исследовательница критикует современный ИИ за то, что он изучает «интеллект в вакууме» — как изолированные агенты или компьютеры, лишенные социальной среды [6:41]. Она считает, что пассивная парадигма обучения на размеченных данных (supervised learning) крайне ограничена по сравнению с тем, как учатся дети. Обучение человека — это активный процесс, во многом основанный на подражании и взаимодействии [7:35].

## 🧩 Магия аналогии: почему нейросети проигрывают детям
[[JUMP:08:13]]

Центральным элементом мышления Митчелл называет способность к созданию аналогий. Для неё подражание — это не просто копирование, а процесс сопоставления чужих действий со своим контекстом через аналогию [8:40].

В своей диссертации Митчелл работала над проектом «Copycat», используя микромир цепочек букв для моделирования абстрактного мышления.
Пример задачи: «Если строка **ABC** превращается в **ABD**, то во что превратится **IJK** или **IIJJKK**?» [10:11].

Несмотря на кажущуюся простоту, современные мощные модели ИИ до сих пор не могут решать подобные задачи с той же гибкостью и обобщающей способностью, что и люди [11:17]. Митчелл выделяет текущие подходы к решению проблемы аналогий и их недостатки:

1.  **Символьный ИИ (GOFAI):** использует правила и предикатную логику. Проблема: системы хрупкие, плохо масштабируются и не умеют учиться самостоятельно [14:17].
2.  **Глубокое обучение (Deep Learning):** требует огромных датасетов (десятки тысяч примеров), что противоречит самой сути аналогии как обучения на нескольких примерах (few-shot learning) [15:23]. Также модели часто находят «ложные корреляции» вместо понимания сути [15:52].
3.  **Вероятностная индукция программ:** представление аналогии как программы на специфическом языке. Подход перспективен, но требует колоссальных вычислительных мощностей и предварительных знаний, заложенных человеком [17:53].

Митчелл также упоминает тест Франсуа Шолле (Google) под названием *Abstraction and Reasoning Corpus* (ARC) [19:37]. Это набор из 1000 визуальных задач, требующих базовых знаний о пространстве и объектах. На сегодняшний день ни одна машина не смогла решить их в общем виде [20:45].

## 🚗 Хрупкость систем и «дешёвые трюки»
[[JUMP:23:11]]

Митчелл отмечает парадокс: ИИ достиг невероятных успехов в узких областях (перевод, распознавание лиц), но остаётся катастрофически хрупким [24:30]. Основная причина этой хрупкости — отсутствие настоящих концептов.

По словам исследовательницы, существует разница между:

*   **Перцептивными категориями:** способность нейросети отличить мост от другого объекта по набору пикселей [25:22].
*   **Концептами:** человеческое понимание «моста» как абстракции. Мы можем сказать «навести мосты между поколениями» или «мост в песне» [25:48].

Митчелл цитирует Хофштадтера: «Концепт — это пакет аналогий» [26:15]. Без этой способности ИИ совершает ошибки, которые никогда не допустил бы человек, и остается уязвимым для состязательных атак (adversarial examples) [24:57].

В дискуссии о перспективах AGI (общего искусственного интеллекта) Митчелл упоминает позицию Яна Лекуна, который верит, что самообучающиеся системы (например, трансформеры), «смотря видео целый день», смогут обучаться подобно младенцам [27:34]. Митчелл скептически относится к этой идее, считая, что в текущих архитектурах пропущено нечто фундаментальное [28:14].

## 😨 Страхи реальные и экзистенциальные
[[JUMP:28:42]]

Обсуждая риски ИИ, Митчелл вспоминает реакцию Дугласа Хофштадтера на визит в штаб-квартиру Google. Хофштадтер заявил, что он «в ужасе» от ИИ [29:49]. Его пугает не восстание роботов, а обесценивание самого понятия интеллекта через «дешёвые трюки» (такие как современные языковые модели), которые имитируют сложность, не обладая глубиной понимания [30:16].

Сама Мелани Митчелл видит более приземлённые, но не менее опасные угрозы:

*   Преждевременное использование ИИ в критических сферах (правосудие, слежка), когда системы ещё недостаточно надежны [30:41].
*   Предвзятость данных и алгоритмические ошибки, разрушающие гражданские права [31:09].

Она также подвергает сомнению тезис Стюарта Рассела из книги «Human Compatible». Рассел описывает суперразум, который может решить проблему изменения климата, уничтожив человечество (отсутствие здравого смысла) [33:39]. Митчелл считает, что интеллект невозможно отделить от здравого смысла и контекста — они не ортогональны, а тесно переплетены [34:05].

## 👶 Новая надежда: ИИ как наука об интеллекте
[[JUMP:34:44]]

В завершение беседы Митчелл отмечает позитивный тренд — возвращение ИИ к его научным, междисциплинарным корням. Она выделяет несколько многообещающих направлений:

*   Программа DARPA «Foundations of Machine Common Sense», где ИИ пытаются провести через стадии развития человеческого младенца [35:11].
*   Использование Gopro-камер на головах детей для создания датасетов, отражающих реальный процесс активного восприятия мира [35:24].

По мнению Митчелл, после периода коммерческого успеха, сфокусированного на инженерии, поле ИИ возвращается в «научную фазу» [36:30]. Для создания по-настоящему разумных систем инженерам снова придётся объединиться с психологами, нейробиологами и философами, чтобы понять природу самого интеллекта.

---