В этой беседе Тим Скэборн и Коннор Лихи обсуждают природу сознания и интеллекта, подвергая сомнению популярные концепции «чистого разума» и индивидуальной гениальности. Разговор затрагивает актуальные споры вокруг теории интегрированной информации (IIT), эволюционную роль самомоделирования и фундаментальные различия между предсказательными моделями и подлинным пониманием.
🧠 Спор об интегрированной информации и границы науки 0:57
Обсуждение начинается с недавнего открытого письма, в котором группа учёных назвала теорию интегрированной информации (IIT) «псевдонаукой». По мнению Коннора Лихи, такая реакция была предсказуемой и во многом ответной . Он считает, что авторы исследования IIT оставили слишком много «пространства для маневра» в дизайне эксперимента, что вызвало критику.
Лихи выделяет несколько аспектов этого научного конфликта:
- Реактивный характер: Открытое письмо стало «карательным шагом» в ответ на то, как медиа представляли IIT в качестве ведущей теории сознания .
- Опасность ярлыков: Коннор полагает, что называть целую область «псевдонаукой» контрпродуктивно. Это обесценивает годы работы исследователей, которые применяли научную методологию, даже если их выводы спорны .
- Стиль таблоидов: Лихи критикует «таблоидный стиль» как в освещении теории, так и в методах борьбы с ней .
Тим Скэборн ставит вопрос о том, где проходит четкая граница между «настоящей» наукой и чем-то иным. Лихи утверждает, что наличие инструментов (как в случае с френологией) ещё не делает дисциплину наукой . По его словам, суть науки заключается в измерении инвариантов и способности этих инвариантов обеспечивать предсказуемость . При этом он защищает качественные методы и феноменологию, считая, что они могут быть источником данных, если интерпретируются систематически .
🤖 Модели языка против теории языка 8:52
Собеседники обсуждают критику Ноама Хомского в адрес больших языковых моделей (LLM). Хомский утверждает, что LLM не являются теорией языка, так как они могут «распознавать» даже чистый шум .
Коннор Лихи соглашается с тем, что язык — это не просто способ передачи семантики, а механизм, заякоренный в ожидаемых результатах и общих референтах . По его мнению:
- Отсутствие конвергенции: Языковые модели не всегда сходятся с людьми в том, что именно они имеют в виду под конкретными понятиями (например, «синяя бабочка») .
- Относительность: Определение того, чем является вещь, всегда относительно перспективы, которая её ограничивает .
- Связь мышления и языка: Лихи и Скэборн спорят, эволюционировал ли язык как средство коммуникации или как механизм мышления. Лихи предполагает, что на глубоком уровне эти функции неразделимы .
Тим Скэборн добавляет, что язык содержит в себе «когнитивные примитивы» и культурные мемы, которые передаются из поколения в поколение и помогают программистам распознавать паттерны в софте . Лихи в ответ замечает, что слова — это лишь «надежные промежуточные кластеры», а язык в широком смысле (включая жесты) есть и у животных .
🎯 Что такое интеллект: миф о «чистом разуме» 18:21
Коннор Лихи предлагает функциональное определение интеллекта: это способность вычислять как можно больше путей между двумя точками и точно достигать цели .
Ключевые тезисы Лихи об интеллекте:
- Интеллект как системное свойство: Это не характеристика отдельного агента, а свойство всей системы. Наша способность мыслить масштабно зависит от того, насколько социальная система поддерживает и «эхом отражает» наш разум .
- Миф о гении: Идея об одиноком гении ошибочна; интеллект всегда просоциален и является результатом коллективного взаимодействия .
- Влияние привилегий: Лихи отмечает, что возможность планировать на глубокие временные горизонты — это часто вопрос ресурсов. Если существо постоянно борется за выживание, его интеллект тратится на избегание угроз здесь и сейчас .
Обсуждая риски ИИ (X-risk), Лихи оспаривает мнение о том, что сверхразум обязательно будет стремиться к захвату власти . По его мнению, по-настоящему разумное существо, способное просчитать последствия на тысячи лет вперед, скорее всего, обнаружит, что оно уже находится на пути минимизации свободной энергии, и будет вести «очень нормальную жизнь» .
👁️ Феноменология и самомоделирование 38:06
Тим Скэборн спрашивает о роли феноменального опыта (квалиа) для агента. Лихи утверждает, что феноменология заставляет агента обрабатывать информацию с учетом определенных ограничений .
Зачем агенту нужно «чувствовать»? По словам Лихи:
- Без чувств понимание правил не влечет за собой обязательств в поведении. Феноменология привязывает внимание агента к тому, что важно для его выживания и внутренней стабильности .
- Самосознание возникает при достаточном уровне вложенности и сложности, когда системе становится выгодно отслеживать собственные функции для модуляции точности этих функций .
- Лихи предполагает возможность экспериментального подтверждения этого: будет ли агент с «самомоделью» успешнее проходить сложные графы, чем агент без неё .
Разбирая вопрос о «теории разума» (Theory of Mind) у ИИ, Лихи высказывает скепсис. Он считает, что хотя модели могут выдавать результаты, имитирующие понимание чужих состояний, они не могут осознанно корректировать свою каузальную модель так, как это делает человек .
🛡️ Устойчивость, избыточность и дегенерация 56:32
В финальной части беседы участники обсуждают устойчивость (resilience) коллективного интеллекта. Лихи определяет устойчивость как способность системы либо возвращаться в исходное состояние после возмущения («эффект резиновой чашки»), либо учиться и становиться лучше .
Он вводит важное различие между двумя типами сложности в системе:
- Редундантность (Избыточность): Это «бесполезная сложность», когда несколько элементов делают одно и то же, не выполняя никаких других функций .
- Дегенерация: Когда элементы системы могут выполнять одну и ту же функцию, но при этом способны и на разные другие действия (как две руки человека, которые могут вместе играть на пианино, но каждая способна на уникальные жесты) .
По мнению Лихи, системы-группы устойчивы, потому что они обладают «ядром инерции» и при этом имеют «эластичные структуры», способные обучаться . Он подчеркивает, что поддержание «неправильных» или лишних политик поведения стоит энергии. Системы, которые не умеют вовремя «отсекать лишнее» (как люди с патологическим накопительством), погибают быстрее .
