# Мао Альбаррасин: «Интеллект — это не свойство индивида, а функция системы»

Источник: https://www.youtube.com/watch?v=n8G50ynU0Vg
Канал: Machine Learning Street Talk
Опубликовано: 14.01.2024

---

В новом выпуске подкаста Machine Learning Street Talk Тим Скарфе (Tim Scarfe) беседует с Мао Альбаррасин (Mahault Albarracin), директором по продуктовым исследованиям и разработкам компании VERSES и докторантом в области когнитивных вычислений. В центре дискуссии — глубокие философские вопросы о природе разума: является ли интеллект «чистой» абстракцией, как возникают смыслы в языке и почему концепция индивидуального гения — это миф, уступающий место коллективной устойчивости систем.

## 🧪 Наука, псевдонаука и скандал вокруг теории сознания
[[JUMP:0:57]]

Обсуждение началось с недавнего открытого письма группы учёных, в котором популярная Теория интегрированной информации (IIT) была названа «псевдонаукой». Этот инцидент вызвал широкий резонанс в научном сообществе [1:10].

По мнению Мао Альбаррасин, такая резкая реакция была ожидаемой, но излишне агрессивной:

*   **Проблема методологии:** Она считает, что дизайн исследования, на котором основывалась критика, оставлял слишком много пространства для интерпретаций, что и спровоцировало конфликт [1:35].
*   **Реакция на медиа:** Альбаррасин полагает, что открытое письмо стало «ответным ударом» на излишне восторженное и лишённое нюансов освещение IIT в таблоидах.
*   **Этика дискуссии:** Гостья подчеркнула, что называть целую область исследований «псевдонаукой» — опасный и деструктивный путь, обесценивающий годы работы многих учёных [2:34].

Тим Скарфе задал вопрос о том, где проходит грань между легитимной наукой и заблуждением. Мао Альбаррасин предложила термин «систематичность» (systematicity) [5:50]:

1.  **Инварианты и предсказуемость:** Настоящая наука измеряет инварианты, которые позволяют достичь определённой степени предсказательной силы [4:00].
2.  **Против инструментов:** Она утверждает, что использование технических инструментов само по себе не делает дисциплину наукой. Например, френология использовала замеры, но не была научной, так как её интерпретации не были систематизированы [3:45].
3.  **Феноменология как данные:** По мнению Мао, даже качественные методы и субъективный опыт могут квалифицироваться как научные данные, если они вписаны в строгие рамки интерпретации и анализа [4:32].

Собеседники вспомнили скандальное исследование из Стэнфорда о «гей-радаре» на базе ИИ. Скарфе отметил, что авторы могли бы назвать это наукой из-за высокой точности предсказаний [6:32]. Однако Альбаррасин возразила: точность модели без понимания каузальных (причинно-следственных) факторов не дает нам знаний об устройстве мира [8:22].

## 🗣️ Язык как инструмент мышления и коммуникации
[[JUMP:8:52]]

Тим Скарфе напомнил позицию Ноама Хомского, который считает, что языковые модели (LLM) не являются теорией языка, так как они способны моделировать даже абсолютный шум, не объясняя «почему» и «как» [9:05].

Основные тезисы участников о языке:

*   **Относительность смыслов:** Мао считает, что язык — это не просто передача семантики, а процесс сближения (конвергенции) собеседников. Если мы оба говорим «синяя бабочка», но имеем в виду разные референты, коммуникация бесполезна [10:02].
*   **Язык vs Мышление:** На классический вопрос, эволюционировал ли язык для мышления или для общения, Альбаррасин ответила, что на определённом уровне сложности эти функции неразделимы [12:17].
*   **Символы как референты:** По её словам, язык может существовать внутри одной сущности как «коммуникация с самим собой во времени», где слова служат надёжными промежуточными кластерами для обращения к собственному опыту [14:45].

Тим Скарфе добавил, что язык содержит «примитивы мышления» и культурные мемы, которые передаются из поколения в поколение, становясь когнитивными программами для разработчиков ПО или учёных [13:25]. Альбаррасин согласилась, отметив, что животные также обладают зачатками языка, если способны передавать информацию через посредников, но человеческий язык уникален своей гибкостью и способностью бесконечно комбинировать символы для снижения энтропии [17:19].

## 🧠 Что такое интеллект: пути, цели и системы
[[JUMP:18:22]]

Мао Альбаррасин предложила оригинальное определение интеллекта: это способность вычислять и находить как можно больше путей между двумя точками (состояниями) [18:38].

Ключевые аспекты этой теории:

*   **Точность и разнообразие:** Важна не только способность достичь цели, но и возможность удерживать в уме множество альтернативных маршрутов одновременно [19:04].
*   **Интеллект и власть:** Она подчеркнула, что интеллект нельзя путать со способностью к действию. Человек в запертой комнате может быть гениальным стратегом, вычисляющим тысячи путей побега, но отсутствие ресурсов (возможности открыть дверь) не делает его менее умным [20:11].
*   **Системное свойство:** Оба собеседника сошлись во мнении, что интеллект — это свойство системы, а не отдельного агента [23:28]. Наше окружение, инструменты и социальные скрипты «подпирают» наш разум, позволяя мыслить на больших масштабах.
*   **Горизонт планирования:** По мнению гостьи, по-настоящему высокий интеллект коррелирует с глубиной предсказания во времени. Однако она предостерегла от мифа о «сверхразуме», который решит все проблемы: по-настоящему умное существо может обнаружить, что оно уже находится на пути минимизации свободной энергии, и будет вести внешне обычную жизнь [28:46].

## 🎭 Миф о «чистом разуме» и экзистенциальные риски
[[JUMP:31:30]]

Тим Скарфе критически отозвался о позиции сторонников X-risk (рисков гибели человечества от ИИ), которые верят в существование «чистого интеллекта» — разума, не ограниченного материей или физическими законами [31:30].

Мао Альбаррасин выдвинула контраргументы против идеи бесконечно предсказывающего ИИ:

*   **Потеря гранулярности:** С увеличением горизонта планирования неизбежно теряется точность. Можно предсказать, что человек умрёт через 100 лет (инвариант), но нельзя предсказать каждое его движение [33:38].
*   **Фазовые переходы (Черные лебеди):** Существуют события, которые невозможно предсказать внутри текущей модели, какими бы мощными ни были вычисления [35:54].
*   **Иерархические модели:** Единственный способ предсказывать далеко вперед — использовать абстракции низкого разрешения, что делает модель хрупкой [32:53].

Гостья подчеркнула, что идея об ИИ, который «неизбежно» захочет захватить власть, — это проекция человеческого индивидуализма. В реальности интеллект всегда просоциален и коллективен [30:23].

## 🎨 Феноменология, поэзия и самосознание
[[JUMP:37:51]]

Вторая половина беседы коснулась темы «квалиа» и субъективного опыта. Зачем агенту чувствовать что-либо, если он может просто обрабатывать информацию?

По мнению Мао Альбаррасин, феноменология (чувственный опыт) выполняет важную функцию:

1.  **Принуждение к вниманию:** Чувство заставляет агента фокусироваться на критически важной информации, связанной с его выживанием [39:33].
2.  **Рефлексивная модель:** Самосознание возникает как эволюционный механизм отслеживания собственных функций для модуляции их точности [41:55].
3.  **Смысл через «заземление»:** Смысл не существует без привязки к миру. Даже чтение абстрактного стихотворения создаёт смысл, потому что оно «заземляется» в конкретном месте и времени, где находится читатель [54:25].

Особое внимание уделили поэзии. Альбаррасин считает её «умопомрачительным» процессом создания новых пересечений в пространстве смыслов, которые раньше не существовали [51:10]. Поэзия позволяет передать интенсивность опыта (например, «каково это — быть женщиной»), которую невозможно транслировать через сухие логические цепочки [52:51].

## 🛡️ Устойчивость коллективного интеллекта: избыточность vs вырожденность
[[JUMP:56:40]]

В завершение встречи обсудили концепции Майкла Левина и Карла Фристона об устойчивости систем через самоорганизацию [56:55].

Мао Альбаррасин объяснила разницу между двумя типами сложности в системе:

*   **Избыточность (Redundancy):** «Бесполезная» сложность. Если у вас пять рук, но вы используете их только для двух функций, три руки лишние. Это трата энергии [1:01:27].
*   **Вырожденность (Degeneracy):** Наличие разных структур, которые могут выполнять одну и ту же функцию, но при этом имеют и свои уникальные задачи. Это залог устойчивости: если одна часть системы погибнет, другая возьмёт на себя её роль, продолжая развиваться в своём направлении [1:00:56].

Альбаррасин привела аналогию с «хордерами» (людьми, склонными к накопительству): они хранят вещи, надеясь, что те пригодятся, но не могут обновить свою модель мира, когда ситуация доказывает бесполезность этих вещей [1:05:27]. Здоровая система должна уметь «отсекать» (pruning) лишнее, сохраняя баланс между стабильностью и способностью к адаптации в условиях «черных лебедей» [1:04:29].