Сложные адаптивные системы, биологические механизмы познания и поиск «недостающего звена» в архитектуре нейросетей — эти темы стали центральными в беседе ведущего подкаста TWIML AI Сэма Чаррингтона с Мелани Митчелл. Митчелл, профессор сложности в Институте Санта-Фе и автор книги «Искусственный интеллект: гид для мыслящих людей», привносит в дискуссию об ИИ редкую перспективу, объединяющую математику, когнитивистику и теорию сложных систем.
🧬 Путь в науку: от Гёделя к генетическим алгоритмам 0:42
Мелани Митчелл пришла в сферу искусственного интеллекта не через классическое программирование, а благодаря увлечению математикой и влиянию философии. Решающую роль в её карьере сыграла книга Дугласа Хофштадтера «Гёдель, Эшер, Бах: эта бесконечная золотая цепь» . Вдохновившись идеями автора, Митчелл убедила его стать её научным руководителем в Мичиганском университете, несмотря на отсутствие базового образования в Computer Science на тот момент .
В ходе обучения она работала не только с Хофштадтером, но и с Джоном Холландом, пионером генетических алгоритмов. Этот опыт сформировал её междисциплинарный подход, который Митчелл называет «немейнстримным» обучением в области когнитивистики и эволюционных вычислений .
🧠 Интеллект как эмерджентное свойство сложности 1:59
Работая в Институте Санта-Фе, Митчелл исследует интеллект через призму теории сложных систем. Она выделяет несколько ключевых аспектов этого подхода:
- Эмерджентность: понимание того, как коллектив относительно простых элементов (например, миллиардов нейронов в мозге) порождает сложные свойства, такие как сознание и познание .
- Природный интеллект: изучение интеллекта не только у людей, но и у насекомых, в экономиках, культурах и даже в иммунной системе .
- Социальный фактор: по мнению Митчелл, интеллект мог эволюционировать именно как ответ на необходимость социального взаимодействия у приматов .
Исследовательница критикует современный ИИ за то, что он изучает «интеллект в вакууме» — как изолированные агенты или компьютеры, лишенные социальной среды . Она считает, что пассивная парадигма обучения на размеченных данных (supervised learning) крайне ограничена по сравнению с тем, как учатся дети. Обучение человека — это активный процесс, во многом основанный на подражании и взаимодействии .
🧩 Магия аналогии: почему нейросети проигрывают детям 8:13
Центральным элементом мышления Митчелл называет способность к созданию аналогий. Для неё подражание — это не просто копирование, а процесс сопоставления чужих действий со своим контекстом через аналогию .
В своей диссертации Митчелл работала над проектом «Copycat», используя микромир цепочек букв для моделирования абстрактного мышления. Пример задачи: «Если строка ABC превращается в ABD, то во что превратится IJK или IIJJKK?» .
Несмотря на кажущуюся простоту, современные мощные модели ИИ до сих пор не могут решать подобные задачи с той же гибкостью и обобщающей способностью, что и люди . Митчелл выделяет текущие подходы к решению проблемы аналогий и их недостатки:
- Символьный ИИ (GOFAI): использует правила и предикатную логику. Проблема: системы хрупкие, плохо масштабируются и не умеют учиться самостоятельно .
- Глубокое обучение (Deep Learning): требует огромных датасетов (десятки тысяч примеров), что противоречит самой сути аналогии как обучения на нескольких примерах (few-shot learning) . Также модели часто находят «ложные корреляции» вместо понимания сути .
- Вероятностная индукция программ: представление аналогии как программы на специфическом языке. Подход перспективен, но требует колоссальных вычислительных мощностей и предварительных знаний, заложенных человеком .
Митчелл также упоминает тест Франсуа Шолле (Google) под названием Abstraction and Reasoning Corpus (ARC) . Это набор из 1000 визуальных задач, требующих базовых знаний о пространстве и объектах. На сегодняшний день ни одна машина не смогла решить их в общем виде .
🚗 Хрупкость систем и «дешёвые трюки» 23:11
Митчелл отмечает парадокс: ИИ достиг невероятных успехов в узких областях (перевод, распознавание лиц), но остаётся катастрофически хрупким . Основная причина этой хрупкости — отсутствие настоящих концептов.
По словам исследовательницы, существует разница между:
- Перцептивными категориями: способность нейросети отличить мост от другого объекта по набору пикселей .
- Концептами: человеческое понимание «моста» как абстракции. Мы можем сказать «навести мосты между поколениями» или «мост в песне» .
Митчелл цитирует Хофштадтера: «Концепт — это пакет аналогий» . Без этой способности ИИ совершает ошибки, которые никогда не допустил бы человек, и остается уязвимым для состязательных атак (adversarial examples) .
В дискуссии о перспективах AGI (общего искусственного интеллекта) Митчелл упоминает позицию Яна Лекуна, который верит, что самообучающиеся системы (например, трансформеры), «смотря видео целый день», смогут обучаться подобно младенцам . Митчелл скептически относится к этой идее, считая, что в текущих архитектурах пропущено нечто фундаментальное .
😨 Страхи реальные и экзистенциальные 28:42
Обсуждая риски ИИ, Митчелл вспоминает реакцию Дугласа Хофштадтера на визит в штаб-квартиру Google. Хофштадтер заявил, что он «в ужасе» от ИИ . Его пугает не восстание роботов, а обесценивание самого понятия интеллекта через «дешёвые трюки» (такие как современные языковые модели), которые имитируют сложность, не обладая глубиной понимания .
Сама Мелани Митчелл видит более приземлённые, но не менее опасные угрозы:
- Преждевременное использование ИИ в критических сферах (правосудие, слежка), когда системы ещё недостаточно надежны .
- Предвзятость данных и алгоритмические ошибки, разрушающие гражданские права .
Она также подвергает сомнению тезис Стюарта Рассела из книги «Human Compatible». Рассел описывает суперразум, который может решить проблему изменения климата, уничтожив человечество (отсутствие здравого смысла) . Митчелл считает, что интеллект невозможно отделить от здравого смысла и контекста — они не ортогональны, а тесно переплетены .
👶 Новая надежда: ИИ как наука об интеллекте 34:44
В завершение беседы Митчелл отмечает позитивный тренд — возвращение ИИ к его научным, междисциплинарным корням. Она выделяет несколько многообещающих направлений:
- Программа DARPA «Foundations of Machine Common Sense», где ИИ пытаются провести через стадии развития человеческого младенца .
- Использование Gopro-камер на головах детей для создания датасетов, отражающих реальный процесс активного восприятия мира .
По мнению Митчелл, после периода коммерческого успеха, сфокусированного на инженерии, поле ИИ возвращается в «научную фазу» . Для создания по-настоящему разумных систем инженерам снова придётся объединиться с психологами, нейробиологами и философами, чтобы понять природу самого интеллекта.
