В новом выпуске подкаста The Cognitive Revolution ведущий Натан Лабенц обсуждает с предпринимателем и исследователем Максом Беннеттом (Max Bennett) историю развития разума. В центре дискуссии — пять эволюционных прорывов, которые превратили простые нервные сети в человеческий интеллект, и то, как эти биологические механизмы помогают понять ограничения современных ИИ-систем.
🪱 Прорыв №1: Управление и навигация по градиентам 15:31
Около 600 миллионов лет назад мир был лишен жизни на суше, а океаны населяли преимущественно одноклеточные и простейшие многоклеточные организмы. У предков современных медуз и морских анемоний не было мозга — только нервные сети, реализующие независимые рефлексы.
Макс Беннетт выделяет первый прорыв — рулевое управление (steering) или таксис. Он возник у первых билатерий (двусторонне-симметричных животных), представителями которых сегодня являются нематоды (черви C. elegans). Имея всего 302 нейрона, этот червь демонстрирует поразительные когнитивные способности:
- Навигация по градиентам: Животное не понимает структуру мира, но следует за концентрацией запаха пищи (положительный градиент) или уходит от токсичной меди (отрицательный градиент).
- Валентность (Valence): По мнению Беннетта, это фундаментальное разделение сигналов на «хорошие» и «плохие», которое в ИИ называют вознаграждением.
- Аффективные состояния: У нематод уже есть зачатки эмоций. Дофаминовые нейроны, реагируя на пищу, переводят червя в режим «поиска» (dwelling), который сохраняется даже после исчезновения стимула.
Беннетт сравнивает этот механизм с ранними моделями роботов-пылесосов Roomba. Они не строили карту помещения, но при обнаружении грязи переходили в режим локальной чистки, имитируя дофаминовую реакцию биологических систем.
🐟 Прорыв №2: Подкрепление и алгоритмы Саттона 36:20
Примерно 550 миллионов лет назад в ходе Кембрийского взрыва появились первые позвоночные. Их мозг уже на 70% соответствовал человеческому шаблону: в нем были передний, средний и ромбовидный отделы, а также прообраз коры и базальные ганглии.
Ключевое отличие этого этапа — обучение методом проб и ошибок (reinforcement). В то время как нематоду нельзя научить прыгать через кольцо, рыбы на это способны. Макс Беннетт указывает на связь биологии с теорией ИИ:
- Проблема временного присвоения кредита: Эдвард Торндайк в начале XX века заметил, что животные обучаются постепенно, а не через мгновенное озарение. Однако в ИИ это не работало, пока не был решен вопрос: какое именно действие привело к успеху, если награда получена спустя долгое время?
- TD-обучение (Temporal Difference): Ричард Саттон предложил алгоритм, где сигналом подкрепления служит не сама награда, а изменение ожидания будущей награды.
- Дофамин как предсказание: Эксперименты на приматах подтвердили, что выброс дофамина происходит в момент появления сигнала, предсказывающего еду, а не в момент самой трапезы. Базальные ганглии рыб работают по схожему принципу.
Этот прорыв позволил животным строить 3D-карты пространства. Рыбы могут запомнить местоположение пищи относительно визуальных ориентиров и вернуться к нему, даже если их выпустили в другой части танка.
🐀 Прорыв №3: Моделирование и «внутренний симулятор» 1:06:28
Около 150 миллионов лет назад у ранних млекопитающих развился неокортекс — шестислойная структура, обернутая вокруг старых отделов мозга. По мнению Беннетта, главной ценностью неокортекса стала не способность к распознаванию объектов (с этим справляются и рыбы), а возможность генеративного моделирования.
Ключевые механизмы моделирования:
- Восприятие как инференс: Опираясь на идеи Германа Гельмгольца, Беннетт утверждает, что мозг не просто видит картинку, а делает вывод о наиболее вероятном состоянии мира.
- Виртуальные пробы: Крысы, дойдя до развилки в лабиринте, физически замирают. Исследования Дэвида Реддиша показали, что в этот момент нейроны места (place cells) в их гиппокампе «проигрывают» возможные пути в будущем, прежде чем крыса сделает шаг.
- Контрфактуальное обучение: Млекопитающие способны понимать: «если бы я выбрал другой путь, результат был бы лучше».
Беннетт считает, что современным ИИ не хватает именно такой «робастности». Нейросети страдают от катастрофического забывания: при дообучении на новых данных они теряют старые навыки. В мозге же веса обновляются только в моменты сильного удивления или ошибки предсказания, что позволяет сохранять стабильную модель мира.
🐒 Прорыв №4: Ментальное моделирование и «теория разума» 1:31:46
У приматов появилась способность моделировать не только физический мир, а внутренний мир других существ. Это называется Theory of Mind (теория разума).
В качестве примера Беннетт приводит эксперимент с шимпанзе по имени Белль и Рок. Когда доминантный самец Рок отбирал у Белль еду, она начала обманывать его: уводила в ложном направлении и, дождавшись, пока он отвлечется, бежала к настоящему тайнику. Это требует понимания того, что в голове другого существа может быть неверная информация.
Признаки четвертого прорыва:
- Имитационное обучение: Приматы не просто копируют движения, а распознают намерение другого.
- Предвосхищение будущих нужд: Беличьи обезьяны способны отказаться от вкусного лакомства сейчас, если знают, что оно вызовет сильную жажду в будущем, когда воды не будет.
- Метапознание: Наличие гранулярной префронтальной коры позволяет приматам моделировать самих себя, что является основой самосознания.
⚖️ Этика, сознание и будущее технологий 1:53:16
В финале беседы участники затронули вопрос морального статуса ИИ и животных. Беннетт признает, что не является профессиональным этиком, но делится своей интуицией:
«Я бы придавал больше морального веса способности испытывать опыт (квалиа), чем наличию идентичности и самосознания. Крыса может страдать, даже если у нее нет сложного представления о своем „Я“, и это накладывает на нас моральные обязательства».
Относительно ИИ Макс Беннетт полагает, что мы столкнемся с «этической проблемой на триллион долларов». У нас нет иного способа доказать наличие сознания у другого, кроме как через механистическое сходство. Если ИИ-системы будут построены на принципах, радикально отличающихся от биологических, нам будет крайне сложно определить момент, когда они начнут заслуживать моральных прав.
