# Макс Беннетт: «История интеллекта за 600 миллионов лет: от червя до нейросетей» Источник: https://www.youtube.com/watch?v=HTvaAvdUyBE Канал: The Cognitive Revolution Опубликовано: 07.02.2024 --- В новом выпуске подкаста The Cognitive Revolution ведущий Натан Лабенц обсуждает с предпринимателем и исследователем Максом Беннеттом (Max Bennett) историю развития разума. В центре дискуссии — пять эволюционных прорывов, которые превратили простые нервные сети в человеческий интеллект, и то, как эти биологические механизмы помогают понять ограничения современных ИИ-систем. ## 🪱 Прорыв №1: Управление и навигация по градиентам [[JUMP:15:31]] Около 600 миллионов лет назад мир был лишен жизни на суше, а океаны населяли преимущественно одноклеточные и простейшие многоклеточные организмы. У предков современных медуз и морских анемоний не было мозга — только нервные сети, реализующие независимые рефлексы. **Макс Беннетт** выделяет первый прорыв — **рулевое управление (steering)** или таксис. Он возник у первых билатерий (двусторонне-симметричных животных), представителями которых сегодня являются нематоды (черви *C. elegans*). Имея всего 302 нейрона, этот червь демонстрирует поразительные когнитивные способности: * **Навигация по градиентам:** Животное не понимает структуру мира, но следует за концентрацией запаха пищи (положительный градиент) или уходит от токсичной меди (отрицательный градиент). * **Валентность (Valence):** По мнению Беннетта, это фундаментальное разделение сигналов на «хорошие» и «плохие», которое в ИИ называют вознаграждением. * **Аффективные состояния:** У нематод уже есть зачатки эмоций. Дофаминовые нейроны, реагируя на пищу, переводят червя в режим «поиска» (dwelling), который сохраняется даже после исчезновения стимула. Беннетт сравнивает этот механизм с ранними моделями роботов-пылесосов Roomba. Они не строили карту помещения, но при обнаружении грязи переходили в режим локальной чистки, имитируя дофаминовую реакцию биологических систем. ## 🐟 Прорыв №2: Подкрепление и алгоритмы Саттона [[JUMP:36:20]] Примерно 550 миллионов лет назад в ходе Кембрийского взрыва появились первые позвоночные. Их мозг уже на 70% соответствовал человеческому шаблону: в нем были передний, средний и ромбовидный отделы, а также прообраз коры и базальные ганглии. Ключевое отличие этого этапа — **обучение методом проб и ошибок (reinforcement)**. В то время как нематоду нельзя научить прыгать через кольцо, рыбы на это способны. Макс Беннетт указывает на связь биологии с теорией ИИ: 1. **Проблема временного присвоения кредита:** Эдвард Торндайк в начале XX века заметил, что животные обучаются постепенно, а не через мгновенное озарение. Однако в ИИ это не работало, пока не был решен вопрос: какое именно действие привело к успеху, если награда получена спустя долгое время? 2. **TD-обучение (Temporal Difference):** Ричард Саттон предложил алгоритм, где сигналом подкрепления служит не сама награда, а **изменение ожидания будущей награды**. 3. **Дофамин как предсказание:** Эксперименты на приматах подтвердили, что выброс дофамина происходит в момент появления сигнала, предсказывающего еду, а не в момент самой трапезы. Базальные ганглии рыб работают по схожему принципу. Этот прорыв позволил животным строить 3D-карты пространства. Рыбы могут запомнить местоположение пищи относительно визуальных ориентиров и вернуться к нему, даже если их выпустили в другой части танка. ## 🐀 Прорыв №3: Моделирование и «внутренний симулятор» [[JUMP:1:06:28]] Около 150 миллионов лет назад у ранних млекопитающих развился **неокортекс** — шестислойная структура, обернутая вокруг старых отделов мозга. По мнению Беннетта, главной ценностью неокортекса стала не способность к распознаванию объектов (с этим справляются и рыбы), а возможность **генеративного моделирования**. ### Ключевые механизмы моделирования: * **Восприятие как инференс:** Опираясь на идеи Германа Гельмгольца, Беннетт утверждает, что мозг не просто видит картинку, а делает вывод о наиболее вероятном состоянии мира. * **Виртуальные пробы:** Крысы, дойдя до развилки в лабиринте, физически замирают. Исследования Дэвида Реддиша показали, что в этот момент нейроны места (place cells) в их гиппокампе «проигрывают» возможные пути в будущем, прежде чем крыса сделает шаг. * **Контрфактуальное обучение:** Млекопитающие способны понимать: «если бы я выбрал другой путь, результат был бы лучше». Беннетт считает, что современным ИИ не хватает именно такой «робастности». Нейросети страдают от **катастрофического забывания**: при дообучении на новых данных они теряют старые навыки. В мозге же веса обновляются только в моменты сильного удивления или ошибки предсказания, что позволяет сохранять стабильную модель мира. ## 🐒 Прорыв №4: Ментальное моделирование и «теория разума» [[JUMP:1:31:46]] У приматов появилась способность моделировать не только физический мир, а **внутренний мир других существ**. Это называется **Theory of Mind (теория разума)**. В качестве примера Беннетт приводит эксперимент с шимпанзе по имени Белль и Рок. Когда доминантный самец Рок отбирал у Белль еду, она начала обманывать его: уводила в ложном направлении и, дождавшись, пока он отвлечется, бежала к настоящему тайнику. Это требует понимания того, что в голове другого существа может быть неверная информация. ### Признаки четвертого прорыва: * **Имитационное обучение:** Приматы не просто копируют движения, а распознают **намерение** другого. * **Предвосхищение будущих нужд:** Беличьи обезьяны способны отказаться от вкусного лакомства сейчас, если знают, что оно вызовет сильную жажду в будущем, когда воды не будет. * **Метапознание:** Наличие гранулярной префронтальной коры позволяет приматам моделировать самих себя, что является основой самосознания. ## ⚖️ Этика, сознание и будущее технологий [[JUMP:1:53:16]] В финале беседы участники затронули вопрос морального статуса ИИ и животных. Беннетт признает, что не является профессиональным этиком, но делится своей интуицией: > «Я бы придавал больше морального веса способности испытывать опыт (квалиа), чем наличию идентичности и самосознания. Крыса может страдать, даже если у нее нет сложного представления о своем „Я“, и это накладывает на нас моральные обязательства». Относительно ИИ Макс Беннетт полагает, что мы столкнемся с «этической проблемой на триллион долларов». У нас нет иного способа доказать наличие сознания у другого, кроме как через механистическое сходство. Если ИИ-системы будут построены на принципах, радикально отличающихся от биологических, нам будет крайне сложно определить момент, когда они начнут заслуживать моральных прав.