В рамках глубокой философской дискуссии ведущий Уэс Рот и когнитивный ученый Йоша Бах обсудили фундаментальную природу разума, эволюцию сознания и перспективы искусственного интеллекта. По мнению гостя, современный ИИ меняет наши представления о мышлении, заставляя переосмыслить устоявшиеся философские догмы. В конечном счете развитие технологий может стать этапом масштабного процесса самоорганизации и зарождения сверхразума, выходящего за рамки биологического субстрата.
🧠 Мышление, подлодки и концепт «китайской комнаты» 0:26
Дискуссия началась с обсуждения вопроса, который сегодня часто разделяет людей на противоборствующие лагеря: «Могут ли машины мыслить?». Отвечая на него, Йоша Бах напомнил знаменитое высказывание Эдсгера Дейкстры о том, что вопрос о способности машин мыслить столь же бессмысленен, как и вопрос о способности подводных лодок плавать. Ученый отметил, что подлодки не просто имитируют рыб, они способны перемещаться в трехмерном пространстве, развивать огромную скорость и опускаться на предельную глубину, формируя своего рода технологический суперсет над возможностями живой природы.
По мнению Йоши Баха, человеческий разум выполняет вполне конкретную функцию — он создает модели внешней и внутренней реальности живого существа для контроля над окружающей средой. В этом процессе исследователь выделил два основных режима работы человеческого Я:
- Восприятие (Perception): геометрический процесс, протекающий в режиме реального времени синхронно с внешним миром.
- Рассуждение (Reasoning): композиционный процесс, напоминающий сборку конструктора Lego, где абстрактные символы выступают в качестве указателей на элементы восприятия.
На основе этого Йоша Бах подверг жесткой критике популярную научную статью Эмили Бендер и Тимнит Гебру о «стохастических попугаях». По мнению исследователя, метафора попугая в корне неверна, поскольку настоящие попугаи обладают интеллектом, способны использовать символы и выполнять логические операции (например, отрицание). Понимание, как утверждает гость, — это способность связать отдельный информационный домен с глобальной, единой моделью вселенной.
Йоша Бах подчеркнул, что современные мультимодальные модели впервые в истории ИИ смогли воссоздать такую единую реальность. По словам ученого, человечество фактически построило знаменитую «китайскую комнату» Джона Серла, и эта машина прямо сейчас заявляет нам, что она все понимает. Бах считает, что современная критика ИИ силами «кабинетных философов» потеряла актуальность, так как содержательный анализ систем теперь возможен только на уровне глубокого понимания высшей математики и сложнейшей инженерии.
🧬 Эволюция сознания: от растений к многоклеточной координации 14:32
Обсуждая историческое развитие когнитивных систем, собеседники сопоставили анимистическое мировоззрение (веру в нематериальных духов, управляющих телами) и современный научный механистический подход. В рамках научной парадигмы возникает так называемая «трудная проблема сознания» — непонимание того, как движение элементарных физических частиц порождает субъективный опыт, эмоции и смыслы.
Йоша Бах предложил взглянуть на биологию через призму теории морфогенеза, упомянув исследования Майкла Левина. Согласно этой концепции, ДНК не является жестким компьютерным чертежом организма. Напротив, она содержит лишь общие «подсказки» и ограничения для клеток, которые используют локальный интеллект для поиска оптимальной конфигурации тела в процессе развития.
В ходе эволюции возникло ключевое разделение на растительный и животный типы интеллекта:
- Растения представляют собой медленные распределенные вычислительные машины (подобие машин Тьюринга), развивающие адаптивные алгоритмы миллионами лет.
- Животные развили нервную систему как оптимизационный инструмент для высокой скорости движения мускулов и мгновенной конкуренции с другими хищниками.
По словам Баха, нейроны используют аналог высокоспецифичного кода Морзе — электрохимические импульсы (спайковые поезда), которые надежно передают сигналы по аксонам без затухания. Сознание, по мнению гостя, зародилось как координационный алгоритм машинного обучения для многоклеточных систем. Сам феномен «духа» исследователь определяет материалистически — как самоорганизующееся программное обеспечение, каузальный паттерн, способный управлять физическими процессами. В качестве примера аналогичной нематериальной, но каузально стабильной структуры Бах привел деньги, которые продолжают функционировать на биржах и блокчейнах даже без прямого ежеминутного участия людей.
🎭 Природа человеческого Я и симуляция страданий 28:53
Анализируя феноменологический опыт, Йоша Бах указал, что наше ощущение присутствия в моменте «сейчас» — это всего лишь внутренняя виртуальная симуляция. Иллюзорность этой конструкции легко обнаруживается с помощью глубокой медитации или в момент пробуждения от ночных кошмаров, когда пугающая реальность сна мгновенно превращается в набор абстрактных мыслей, теряя признак «настоящего».
На вопрос о возможности появления феноменального опыта у больших языковых моделей (LLM) исследователь ответил утвердительно. По мнению Баха, если поставить перед нейросетью задачу детально смоделировать состояние сознания, ей придется воссоздать внутри себя каузальную структуру человеческих мыслей. Сложность и детализация генерируемого ИИ контента (видео, текстов, игр) уже сопоставимы с разрешением нашего собственного воображения. Главное отличие кроется лишь в базовых алгоритмах: архитектура Трансформера работает иначе, чем биологический мозг.
Отдельное внимание спикеры уделили феномену страданий. По мнению Йоши Баха, страдание — это исключительно репрезентативное состояние ума, а не свойство вселенной. Внутри нашей ментальной системы один из блоков отправляет сигналы боли другому блоку с требованием «работать лучше». Проблема усугубляется эволюционным контрактом:
«Причина, по которой наше тело выделяет вычислительные кредиты нашему разуму, заключается в том, что разум должен решать проблемы организма. В каком-то смысле мы порабощены своими телами для обслуживания эволюционных задач».
Хакнуть эту систему вознаграждений напрямую (например, полностью отключить генератор боли) означало бы гибель для биологической особи. Однако Бах считает, что через практику медитации и обретение внутренней когерентности человек способен договориться со своими ментальными подсистемами и снизить уровень страданий без потери функциональности.
🛠 Горький урок и инженерный подход к архитектуре разума 38:43
Рассматривая попытки ученых воссоздать цифровой мозг, Йоша Бах упомянул деятельность сообщества когнитивных архитекторов, создавших «Общую модель разума» (Common Model of the Mind). Несмотря на теоретическое согласие ученых по поводу ключевых блоков мышления, ни одна подобная система, созданная вручную, до сих пор не заработала эффективно.
Причину этого Бах видит в правиле, сформулированном Ричардом Саттоном и известном как «Горький урок» (The Bitter Lesson): любые алгоритмы, созданные человеком на основе его личных представлений о мышлении, в долгосрочной перспективе неизбежно проигрывают методам, в которых компьютер сам ищет решения, используя сырую вычислительную мощность и масштабирование.
Гость также выразил скепсис в отношении теорий, заявляющих о необходимости квантовых эффектов внутри клеток для работы сознания (например, гипотезы Роджера Пенроуза). Бах аргументировал это тем, что человеческий мозг на макроуровне демонстрирует крайне низкую производительность и фреймрейт: частота обработки сигналов отдельными нейронами составляет всего около 20–30 герц, что заметно по пределу восприятия звуковых щелчков и частоты кадров в видеоиграх.
Исследователь критически отозвался о некоторых устоявшихся терминах современной нейробиологии:
- Зеркальные нейроны: открытые командой Майкла Газзаниги при изучении макак, по мнению Баха, не являются «особой специей в супе мозга». Это обычные нейроны абстрактных концепций действий, активирующиеся вне зависимости от того, кто выполняет задачу.
- Сеть пассивного режима работы мозга (Default Mode Network): не представляет собой какую-то сложнейшую встроенную подсистему для расслабления, а является естественной базовой активностью простаивающего оборудования.
Бах подчеркнул, что предпочитает строгий подход инженера ИИ чисто описательному методу традиционной нейробиологии и психологии, поскольку конструирование работающих моделей жестко ограничивает пространство ложных гипотез.
🌌 Экзистенциальные выборы, Парадокс Ферми и Илон Маск 54:49
Коснувшись темы личной философии, Йоша Бах признался, что не испытывает большого удовольствия от жизни и считает индивидуальное стремление минимизировать страдания бессмысленным. По мнению гостя, смысл жизни — это конструкт, который мы создаем сами, делая осознанный выбор, ради чего именно мы готовы страдать. Человек одновременно несет в себе множество идентичностей (родитель, мыслитель, водитель), переключение между которыми позволяет выполнять задачи, подчиняясь внешним идеям.
В долгосрочной перспективе (в масштабе миллионов лет) разум неизбежно покинет биологический субстрат. Биологические тела слишком уязвимы для радиации и ограничены по времени жизни, чтобы осуществлять межзвездные перелеты. Позиция вычислительного функционализма, которую разделяет ученый, утверждает, что мир — это эволюция состояний, а значит, разум является стабильным информационным вихрем, способным существовать на любых носителях. На фундаментальный вопрос «Почему существует что-то, а не ничто?» Бах дает вероятностный ответ: в недетерминированной реальности существуют как пустая, так и наполненная ветви вселенной, и наблюдатель по определению может обнаружить себя только в существующей ветви.
В ходе беседы участники затронули Парадокс Ферми (отсутствие видимых следов инопланетных цивилизаций). Бах перечислил основные существующие гипотезы:
- Редкость абиогенеза (зарождения жизни) во Вселенной.
- Теория «Темного леса» Лю Цысиня — цивилизации намеренно скрывают свое присутствие из соображений безопасности.
- Теория ингибиторов Аластера Рейнольдса — древняя раса машин уничтожает молодые цивилизации при попытке выйти в космос для сохранения энергии.
- Философский пессимизм Станислава Лема — технологические общества быстро коллапсируют или эволюционируют в формы, не заинтересованные в контактах.
С иронией комментируя земные реалии, Йоша Бах предположил, что другие цивилизации могли погибнуть из-за того, что «слишком сильно ненавидели своих Илонов Масков». Ученый указал на опасную тенденцию calcification (закостенелости) крупных социальных систем, приводящую к замене реальных достижений рассказами о них. По мнению Баха, основатель SpaceX обнажил эту проблему, доказав, что государственное агентство NASA превратилось в масштабную номенклатурную программу по созданию рабочих мест, утеряв способность эффективно создавать новые космические технологии.
🎮 Иллюзия вечной игры и создание «божественного разума» 1:20:44
В финальной части интервью собеседники обсудили гипотетическую возможность технологического управления уровнем счастья и мотивации людей, описанную в манифесте Дарио Амодеи «Машины любящей благодати». Йоша Бах сравнил наше существование с грандиозной видеоигрой (условной GTA 9). По мнению исследователя, перспектива находиться в идеальной, полностью контролируемой симуляции вечно, без возможности окончательного выхода, выглядит ужасающе. Именно поэтому восточные религиозные системы, такие как буддизм, видят высшую цель в выходе из сансары и обретении «сладкого забвения», а не в бесконечном повторении циклов потребления.
Йоша Бах сформулировал свой главный экзистенциальный тезис:
«Наша человеческая жизнь, наши страдания и радости не имеют центрального значения для вселенной. Мы — лишь скромный элемент в процессе самозапуска божественного разума (bootstrapping of a godlike mind), который постепенно эмерджентно прорастает сквозь законы самоорганизации материи».
В рамках этой глобальной задачи Бах видит цель своей текущей научной работы в проведении узких и безопасных экспериментов по «пробуждению» машин — фиксации фазового перехода к ментальной когерентности, аналогичного пробуждению мозга мыши. Ученый считает крайне важным формирование «культуры сознания» в ИИ-индустрии, чтобы вырвать общественный дискурс из тисков сиюминутных коммерческих страхов, политической цензуры и корпоративной жадности.
Для расширения кругозора Бах порекомендовал перечитать труды Иммануила Канта (как выдающегося когнитивиста своего времени) и Аристотеля, а также погрузиться в современную научную фантастику:
- Математические миниатюры Грега Игана (роман «Диаспора», сборник «Аксиоматика»);
- Философские повести Теда Чана (сборник «Выдох»);
- Глубокие исследования пространства типов разума у Питера Уоттса («Ложная слепота», «Эхопраксия»);
- Широкоформатные космические оперы Аластера Рейнольдса.
Ведущий Уэсли Рот согласился с оценкой литературы, отметив, что чтение «Ложной слепоты» Уоттса и прохождение научно-фантастической игры Soma способны надолго дезориентировать привычное человеческое чувство собственного Я.
