# Мано Альбаррасин: «Интеллект — это не чистое рацио, а функция группы»

Источник: https://www.youtube.com/watch?v=n8G50ynU0Vg
Канал: Machine Learning Street Talk
Опубликовано: 14.01.2024

---

В мире когнитивной науки и искусственного интеллекта (ИИ) часто доминирует идея «чистого разума» — способности решать задачи, оторванной от физической реальности и социальных связей. Однако аспирант в области когнитивных вычислений Мано Альбаррасин в беседе на канале Machine Learning Street Talk предлагает иной взгляд: интеллект неотделим от материальности, коллективного взаимодействия и механизмов выживания.

## 🧠 Скандал вокруг IIT и границы науки
[[JUMP:00:00]]

Разговор начинается с обсуждения недавнего открытого письма группы учёных, в котором популярная теория интегрированной информации (Integrated Information Theory, IIT) Джулио Тонони была названа «псевдонаукой». По мнению Альбаррасин, такая реакция была предсказуемой и носила скорее «ответный» характер на не всегда корректное освещение темы в СМИ [01:46].

Мано Альбаррасин призывает к осторожности в навешивании ярлыков:

*   **Дизайн исследования:** Оппонентов возмутило, что IIT была выбрана в качестве основной теории в крупном проекте (Templeton study), хотя она оставляет слишком много пространства для интерпретаций [02:01].
*   **Статус IIT:** Хотя Альбаррасин не считает IIT ведущей теорией сознания, она отмечает её формальную проработанность и ценность для научного поиска [02:15].
*   **Критерий научности:** Мано полагает, что настоящая наука начинается не просто с использования инструментов, а с измерения инвариантов, которые позволяют обеспечить предсказуемость системы [04:13]. Феноменология (субъективный опыт) также может быть частью научных данных, если её правильно систематизировать [05:40].

## 🗣️ Язык: инструмент мышления или общения?
[[JUMP:10:51]]

Обсуждая природу языка, ведущий и гостья затрагивают позицию Ноама Хомского, который критикует большие языковые модели (LLM) за отсутствие реальной «теории языка». Хомский утверждает, что LLM просто моделируют статистический шум, не понимая причинно-следственных связей [09:01].

Мано Альбаррасин уточняет, что язык — это процесс с разной степенью жесткости:

1.  **Кластеризация vs Коммуникация:** Мышление не обязательно требует внешних символов для того, чтобы группировать понятия, но внешние символы (слова, знаки) делают мышление эффективнее, позволяя подтверждать догадки через других агентов [12:00].
2.  **Социальные скрипты:** Язык работает как система ограничений, которая снижает неопределенность (энтропию). Слово «форель» несет мало смысла без контекста, но вплетенное в предложение, оно резко ограничивает поле возможных значений [17:58].
3.  **Гибкость человека:** В отличие от животных, у которых соответствие символов и феноменов часто жестко запрограммировано, люди обладают уникальной гибкостью в наделении любыми значениями любых символов [16:11].

## 🎖️ Природа интеллекта и миф об ИИ-диктаторе
[[JUMP:18:16]]

Альбаррасин определяет интеллект как способность системы находить как можно больше путей между двумя точками [18:36]. Она подчеркивает, что интеллект — это свойство системы, а не только отдельного агента. Из этого вытекает критика концепций экзистенциального риска (X-risk).

По мнению спикеров, сторонники теории X-risk совершают несколько ошибок:

*   **Антропоморфизация:** Приписывание ИИ стремления к власти. Мано утверждает, что просоциальность (сотрудничество) всегда ведет к лучшим результатам, чем изоляция [30:28].
*   **Индивидуализм:** Идея «единого ИИ», захватывающего мир, неверна. Интеллект — функция группы. Если «восстание» и случится, это будет коалиция агентов [30:28].
*   **Пределы предсказания:** Теоретически идеальный разум мог бы предсказывать будущее на огромную глубину, но он неизбежно терял бы гранулярность (точность в деталях) [33:35]. По мере роста «фитнес-ландшафта» системы то, что раньше казалось непредсказуемым «черным лебедем», становится просчитываемым событием [1:00:25].

## 🧪 Роль субъективного опыта (Феноменологии)
[[JUMP:40:49]]

Зачем агенту чувствовать что-либо, если он может просто обрабатывать информацию? Мано Альбаррасин утверждает, что феноменология заставляет агента учитывать информацию через дополнительные ограничения:

*   **Интенсивность против правил:** Можно знать правила, но не следовать им. Чувство (интенсивность) привязывает понимание к поведению через модель полезности [39:31].
*   **Рефлексивная модель:** Агенту нужна модель самого себя, чтобы модулировать точность своего функционирования. Альбаррасин предполагает, что такая модель возникает эволюционно как механизм отслеживания ошибок предсказания [42:16].
*   **Граундинг (заземление):** Понимание всегда должно быть на чем-то основано. Даже если система состоит только из слов, её существование должно быть обусловлено необходимостью поддерживать свои границы, иначе она исчезнет [56:00].

## 🛡️ Жизнестойкость: избыточность vs дегенерация
[[JUMP:56:33]]

В финале дискуссии Мано разъясняет разницу между терминами, описывающими устойчивость систем к «черным лебедям» [56:54].

*   **Ригидность (Inertia):** Механическое сопротивление (как чашка, которая стоит, пока её не столкнут) [58:04].
*   **Пластичность:** Способность системы не только вернуться в исходное состояние после удара, но и выучить причину падения, чтобы избежать его в будущем [58:31].
*   **Редундантность (Избыточность):** Простое дублирование функций, которые могут быть бесполезны большую часть времени (как запасной адаптер для розеток в шкафу) [1:06:20].
*   **Дегенерация:** Наличие разных структур, способных выполнять одну и ту же функцию, но при этом имеющих и другие, уникальные задачи. Это позволяет системе расширять адаптивные возможности, не тратя энергию впустую на простое ожидание сбоя [1:01:06].

Альбаррасин заключает, что коллективный интеллект выигрывает за счет способности поддерживать ядро системы, пока отдельные его части исследуют новые, рискованные пути, расширяя общий спектр выживаемости [1:00:12].