В новом выпуске подкаста Machine Learning Street Talk Тим Скарфе (Tim Scarfe) беседует с Мао Альбаррасин (Mahault Albarracin), директором по продуктовым исследованиям и разработкам компании VERSES и докторантом в области когнитивных вычислений. В центре дискуссии — глубокие философские вопросы о природе разума: является ли интеллект «чистой» абстракцией, как возникают смыслы в языке и почему концепция индивидуального гения — это миф, уступающий место коллективной устойчивости систем.
🧪 Наука, псевдонаука и скандал вокруг теории сознания 0:57
Обсуждение началось с недавнего открытого письма группы учёных, в котором популярная Теория интегрированной информации (IIT) была названа «псевдонаукой». Этот инцидент вызвал широкий резонанс в научном сообществе .
По мнению Мао Альбаррасин, такая резкая реакция была ожидаемой, но излишне агрессивной:
- Проблема методологии: Она считает, что дизайн исследования, на котором основывалась критика, оставлял слишком много пространства для интерпретаций, что и спровоцировало конфликт .
- Реакция на медиа: Альбаррасин полагает, что открытое письмо стало «ответным ударом» на излишне восторженное и лишённое нюансов освещение IIT в таблоидах.
- Этика дискуссии: Гостья подчеркнула, что называть целую область исследований «псевдонаукой» — опасный и деструктивный путь, обесценивающий годы работы многих учёных .
Тим Скарфе задал вопрос о том, где проходит грань между легитимной наукой и заблуждением. Мао Альбаррасин предложила термин «систематичность» (systematicity) :
- Инварианты и предсказуемость: Настоящая наука измеряет инварианты, которые позволяют достичь определённой степени предсказательной силы .
- Против инструментов: Она утверждает, что использование технических инструментов само по себе не делает дисциплину наукой. Например, френология использовала замеры, но не была научной, так как её интерпретации не были систематизированы .
- Феноменология как данные: По мнению Мао, даже качественные методы и субъективный опыт могут квалифицироваться как научные данные, если они вписаны в строгие рамки интерпретации и анализа .
Собеседники вспомнили скандальное исследование из Стэнфорда о «гей-радаре» на базе ИИ. Скарфе отметил, что авторы могли бы назвать это наукой из-за высокой точности предсказаний . Однако Альбаррасин возразила: точность модели без понимания каузальных (причинно-следственных) факторов не дает нам знаний об устройстве мира .
🗣️ Язык как инструмент мышления и коммуникации 8:52
Тим Скарфе напомнил позицию Ноама Хомского, который считает, что языковые модели (LLM) не являются теорией языка, так как они способны моделировать даже абсолютный шум, не объясняя «почему» и «как» .
Основные тезисы участников о языке:
- Относительность смыслов: Мао считает, что язык — это не просто передача семантики, а процесс сближения (конвергенции) собеседников. Если мы оба говорим «синяя бабочка», но имеем в виду разные референты, коммуникация бесполезна .
- Язык vs Мышление: На классический вопрос, эволюционировал ли язык для мышления или для общения, Альбаррасин ответила, что на определённом уровне сложности эти функции неразделимы .
- Символы как референты: По её словам, язык может существовать внутри одной сущности как «коммуникация с самим собой во времени», где слова служат надёжными промежуточными кластерами для обращения к собственному опыту .
Тим Скарфе добавил, что язык содержит «примитивы мышления» и культурные мемы, которые передаются из поколения в поколение, становясь когнитивными программами для разработчиков ПО или учёных . Альбаррасин согласилась, отметив, что животные также обладают зачатками языка, если способны передавать информацию через посредников, но человеческий язык уникален своей гибкостью и способностью бесконечно комбинировать символы для снижения энтропии .
🧠 Что такое интеллект: пути, цели и системы 18:22
Мао Альбаррасин предложила оригинальное определение интеллекта: это способность вычислять и находить как можно больше путей между двумя точками (состояниями) .
Ключевые аспекты этой теории:
- Точность и разнообразие: Важна не только способность достичь цели, но и возможность удерживать в уме множество альтернативных маршрутов одновременно .
- Интеллект и власть: Она подчеркнула, что интеллект нельзя путать со способностью к действию. Человек в запертой комнате может быть гениальным стратегом, вычисляющим тысячи путей побега, но отсутствие ресурсов (возможности открыть дверь) не делает его менее умным .
- Системное свойство: Оба собеседника сошлись во мнении, что интеллект — это свойство системы, а не отдельного агента . Наше окружение, инструменты и социальные скрипты «подпирают» наш разум, позволяя мыслить на больших масштабах.
- Горизонт планирования: По мнению гостьи, по-настоящему высокий интеллект коррелирует с глубиной предсказания во времени. Однако она предостерегла от мифа о «сверхразуме», который решит все проблемы: по-настоящему умное существо может обнаружить, что оно уже находится на пути минимизации свободной энергии, и будет вести внешне обычную жизнь .
🎭 Миф о «чистом разуме» и экзистенциальные риски 31:30
Тим Скарфе критически отозвался о позиции сторонников X-risk (рисков гибели человечества от ИИ), которые верят в существование «чистого интеллекта» — разума, не ограниченного материей или физическими законами .
Мао Альбаррасин выдвинула контраргументы против идеи бесконечно предсказывающего ИИ:
- Потеря гранулярности: С увеличением горизонта планирования неизбежно теряется точность. Можно предсказать, что человек умрёт через 100 лет (инвариант), но нельзя предсказать каждое его движение .
- Фазовые переходы (Черные лебеди): Существуют события, которые невозможно предсказать внутри текущей модели, какими бы мощными ни были вычисления .
- Иерархические модели: Единственный способ предсказывать далеко вперед — использовать абстракции низкого разрешения, что делает модель хрупкой .
Гостья подчеркнула, что идея об ИИ, который «неизбежно» захочет захватить власть, — это проекция человеческого индивидуализма. В реальности интеллект всегда просоциален и коллективен .
🎨 Феноменология, поэзия и самосознание 37:51
Вторая половина беседы коснулась темы «квалиа» и субъективного опыта. Зачем агенту чувствовать что-либо, если он может просто обрабатывать информацию?
По мнению Мао Альбаррасин, феноменология (чувственный опыт) выполняет важную функцию:
- Принуждение к вниманию: Чувство заставляет агента фокусироваться на критически важной информации, связанной с его выживанием .
- Рефлексивная модель: Самосознание возникает как эволюционный механизм отслеживания собственных функций для модуляции их точности .
- Смысл через «заземление»: Смысл не существует без привязки к миру. Даже чтение абстрактного стихотворения создаёт смысл, потому что оно «заземляется» в конкретном месте и времени, где находится читатель .
Особое внимание уделили поэзии. Альбаррасин считает её «умопомрачительным» процессом создания новых пересечений в пространстве смыслов, которые раньше не существовали . Поэзия позволяет передать интенсивность опыта (например, «каково это — быть женщиной»), которую невозможно транслировать через сухие логические цепочки .
🛡️ Устойчивость коллективного интеллекта: избыточность vs вырожденность 56:40
В завершение встречи обсудили концепции Майкла Левина и Карла Фристона об устойчивости систем через самоорганизацию .
Мао Альбаррасин объяснила разницу между двумя типами сложности в системе:
- Избыточность (Redundancy): «Бесполезная» сложность. Если у вас пять рук, но вы используете их только для двух функций, три руки лишние. Это трата энергии .
- Вырожденность (Degeneracy): Наличие разных структур, которые могут выполнять одну и ту же функцию, но при этом имеют и свои уникальные задачи. Это залог устойчивости: если одна часть системы погибнет, другая возьмёт на себя её роль, продолжая развиваться в своём направлении .
Альбаррасин привела аналогию с «хордерами» (людьми, склонными к накопительству): они хранят вещи, надеясь, что те пригодятся, но не могут обновить свою модель мира, когда ситуация доказывает бесполезность этих вещей . Здоровая система должна уметь «отсекать» (pruning) лишнее, сохраняя баланс между стабильностью и способностью к адаптации в условиях «черных лебедей» .
