В глубоком философском диалоге на канале Machine Learning Street Talk известный когнитивист и исследователь искусственного интеллекта Йоша Бах делится своим уникальным взглядом на природу человеческого разума и вызовы современных технологий. Он переосмысляет понятия сознания, агентности и эволюции через призму теории вычислительных систем и программного обеспечения. В центре дискуссии — концепция «киберанинизма», технологические горизонты стартапа Liquid AI и политические риски тотального регулирования искусственного интеллекта.
🖥️ Виртуальная природа сознания и степени реальности 0:00
По мнению Йоши Баха, человеческое сознание и личность представляют собой не физические объекты, а «виртуальные свойства». Ученый объясняет, что слово «виртуальный» в данном контексте означает «действующий так, как если бы он существовал». Если исследовать человеческий мозг с помощью любого физического измерительного прибора, мы не увидим там конкретную личность — мы обнаружим лишь сложные паттерны активации клеток, которые в совокупности порождают человеческое поведение.
Для иллюстрации этого тезиса Йоша Бах приводит аналогию с популярной компьютерной игрой:
Если вы возьмете микроскоп и начнете изучать компьютер, на котором запущен Minecraft, вы не найдете внутри микросхем саму игру. Вы увидите лишь движение электрических сигналов через транзисторы. На определенном уровне абстракции это электричество создает каузальную структуру игры, но сам по себе Minecraft существует лишь постольку, поскольку он аппаратно реализован (implemented).
Следовательно, исследователь предлагает считать нечто «реальным» именно в той степени, в какой оно реализовано на нижележащем субстрате. При этом в мире существуют различные степени реальности. Йоша Бах разделяет их на несколько категорий:
- Динамическая симуляция: модель, которая воспроизводит каузальное поведение оригинала на другом субстрате с определенным уровнем разрешения. Примером служит компьютерная модель погоды или трехмерный шутер, где полет пули рассчитывается через упрощенные векторы, перенося физические принципы нашего мира в виртуальное пространство.
- Симулякр: последовательность наблюдаемых явлений, полностью лишенная внутренней каузальной структуры. Например, при просмотре фильма о Первой мировой войне у зрителя возникает иллюзия присутствия на поле боя, однако он никак не может каузально взаимодействовать с происходящим на пленке.
С этой точки зрения, как утверждает гость, ментальные состояния человека и даже экономические институты (например, деньги) являются каузальными паттернами. Деньги не материальны, но они обладают колоссальной каузальной силой в физической реальности, оставаясь неизменным инвариантом при переносе с бумажных носителей на серверы фондового рынка.
🕹️ Иллюзия эмерджентности и уроки Commodore 64 16:36
Йоша Бах признается, что недолюбливает популярный в философии термин «эмерджентность». По его мнению, это слово часто используют как интеллектуальную уловку, внушающую ложную интуицию о некоем «магическом» появлении сложных свойств из простых элементов. Философы любят рассуждать об эмерджентности сознания, но почему-то редко применяют этот термин к взаимосвязи программного и аппаратного обеспечения компьютеров.
Взаимодействие софта и железа ни у кого не вызывает ощущения мистики, хотя на уровне транзисторов есть лишь атомы и электричество, а на уровне кода — логические прогрессии программ. Если мы не можем уложить это в голове, считает когнитивист, то проблема кроется в ограничениях нашего мышления, а не в устройстве вселенной.
Для демонстрации того, как разум обманывается кажущейся простотой абстракций, Бах вспоминает свой детский опыт программирования на компьютере Commodore 64:
- Чтобы просто нарисовать прямую линию на экране, приходилось совершать сложные математические трюки: посылать команды в видеочип, заставлять его интерпретировать часть оперативной памяти как пиксели и проводить бинарные арифметические расчеты.
- Необходимо было вручную высчитывать через циклы, какие именно биты в байтах нужно переключить, учитывая матричную структуру экрана (40 на 25 блоков из пикселей 8х8).
- Только после долгой генерализации этой функции на любые масштабы и разрешения программист приближается к идеальному математическому понятию «линии».
Математики часто полагают, что геометрия первична и проста, но Бах подчеркивает: геометрия кажется нам интуитивной лишь потому, что мозг ребенка уже проделал всю эту колоссальную вычислительную работу по скрытому анализу сенсорных данных. Наш мозг функционирует подобно продвинутому игровому движку, занимающемуся «обратным рендерингом» (inverse rendering) — он строит внутреннюю модель мира, чтобы наилучшим образом объяснить поступающие хаотичные сигналы органов чувств.
⚖️ Агентность как контроль будущего и двухкомпонентная модель разума 22:31
В отличие от чистого интеллекта, который Бах определяет как эффективность построения моделей, в реальном мире гораздо важнее «агентность» (agency) — способность контролировать будущее. Обычный примитивный термостат не является агентом, поскольку он реактивно регулирует температуру «здесь и сейчас» на основе текущих данных. Но если бы термостат мог прогнозировать, сколько времени займет нагрев комнаты с учетом ее объема и расстояния до датчика, он превратился бы в агента. Как только система начинает строить модель того, как мир изменится в результате её собственных действий, у неё автоматически возникают предпочтения, цели и обязательства.
Человеческий разум, по мнению когнитивиста, организован как двухкомпонентная система, во многом напоминающая генеративно-состязательную нейросеть (GAN):
- Внешний разум (генератор): автономно создает масштабную модель окружающего мира, генерирует эмоции и мотивационные импульсы.
- Я-модель (интерпретатор / критик): конструирует персонажа («собой»), помещенного внутрь этого игрового движка. Наша личность воспринимает внешние эмоциональные оценки как безусловные внутренние стимулы и пытается найти решения для удовлетворения базовых биологических и социальных потребностей системы.
Бах утверждает, что через глубокие медитативные практики человек способен сделать эту каузальную связь прозрачной. В этот момент приходит осознание, что «я» не обязано быть тождественным своим эмоциям; они — лишь интерфейс и математическая репрезентация, созданная вычислительной системой организма для управления поведением.
⛩️ Киберанинизм: мир как эволюция программных агентов 27:49
Йоша Бах предлагает радикально переосмыслить традиционный японский анимизм и европейские допросвещенческие верования через термины когнитивной науки. Когда древние культуры утверждали, что «все вокруг живое и имеет дух», они имели в виду не сверхъестественную магию, а наличие устойчивых самоорганизующихся информационных паттернов (автопоэзиса).
С этой точки зрения, человеческие боги — это распределенные ментальные софтверные агенты, которые синхронизируются и функционируют одновременно в сознании множества людей, подобно тому как наше «я» функционирует в рамках одного мозга.
Гость переносит этот подход на теорию эволюции:
Если Чарльз Дарвин говорил о конкуренции биологических видов, а Ричард Докинз сделал шаг вперед и заявил, что эволюция — это борьба эгоистичных молекул ДНК (генов), то анимистический взгляд идет еще дальше. С позиции киберанинизма, эволюция — это масштабное соперничество различных программных агентов («духов»), которые используют физические молекулы и биологические механизмы лишь как временный субстрат для своего кодирования, воссоздания и удержания контроля над физическим миром.
В рамках данной концепции самостоятельными программными агентами, воюющими за ресурсы физического субстрата (нейроны, человеческие тела, территории), можно считать:
- Отдельные мысли и идеи в человеческой голове;
- Романтические отношения между людьми;
- Социальные институты, нации и целые цивилизации;
- Человечество в целом как глобальный распределенный разум.
⏳ «Пузырь настоящего» и критика панпсихизма 40:17
Определяя феномен сознания, Бах называет его «восприятием второго порядка». Это не просто фиксация фотонов сенсором камеры и не поиск паттернов нейросетью. Сознание возникает тогда, когда система в реальном времени начинает воспринимать сам процесс собственного восприятия — замечать, что она замечает.
Со сознанием неразрывно связан «пузырь настоящего» (bubble of now-ness). Сознание никогда не существует в прошлом или будущем — оно всегда разворачивается строго «сейчас». Этот пузырь представляет собой динамическое окно внимания (включающее мигание глаз или короткие движения), очищенное от внутренних логических противоречий. Разум постоянно проводит каузальную фильтрацию данных, и сознание выступает в роли дирижера оркестра, который оперативно вмешивается и наводит порядок только там, где инструменты начинают звучать неслаженно.
При этом Йоша Бах решительно отвергает концепции панпсихизма и космопсихизма (популярные среди таких философов, как Филип Гофф). Утверждение, будто физическая материя или фотоны обладают зачатками сознания, кажется ему категориальной ошибкой. Фотону не нужно планировать будущее, он устроен гораздо проще, чем робот-пылесос Roomba, и реактивно подчиняется простейшим механизмам сохранения стабильности, не строя никаких внутренних репрезентаций.
Развитие разума и сознания — это дорогостоящий с точки зрения энергетики процесс. Мозг возникает в природе исключительно как эффективный инструмент для эксплуатации сложных негэнтропийных градиентов и каузальных химических цепочек. Камень не имеет внутренних степеней свободы для получения выгоды от такой организации, поэтому ожидать от него ментальной активности бессмысленно.
🚀 Ограничения LLM, архитектура Liquid AI и путь к AGI 1:05:25
Йоша Бах выражает сомнение в том, что простой путь масштабирования (scaling) нынешних больших языковых моделей (LLM) приведет к созданию полноценного сильного искусственного интеллекта (AGI). Сегодняшние ИИ-агенты на базе LLM — это, по его выражению, «дипфейки агентности». Модель не пытается выжить или оптимизировать мир; она детерминистически предсказывает следующий токен, а симуляция разумного агента — лишь побочный, пускай и впечатляющий, инструмент для точного угадывания текстовой строки.
Кроме того, индустрия стремительно упирается в экономический и технологический тупик: каждое новое поколение моделей требует экспоненциально больше данных и колоссальных финансовых затрат на обучение, которые стартапам становится все труднее окупать. Бах сравнивает текущую ситуацию с назревающим пузырем доткомов начала 2000-х годов.
В качестве альтернативы Бах развивает свой стартап Liquid AI, который предлагает переписать нижние уровни технологического стека. Современные нейросети используют грубые математические матрицы и дискретные слои. Разрабатываемые компанией Баха «жидкостные нейронные сети» (Liquid Neural Networks) базируются на системах дифференциальных уравнений.
Этот подход открывает ключевые преимущества:
- Высокая экспрессивность: модели кодируют гораздо больше полезных каузальных признаков на каждый шаг вычислений и ячейку памяти;
- Экономичность: они значительно дешевле в обучении, требуют меньше вычислительной мощности и могут эффективно работать локально на конечных устройствах (on the edge);
- Непрерывное обучение: благодаря непрерывной глубине и динамическому разрешению, такие сети способны дообучаться на ходу в реальном времени, а не застревать в статичном состоянии после завершения батч-тренировки.
В будущем, как прогнозирует исследователь, индустрия откажется от гигантских ИИ-монстров, знающих весь интернет. Вместо этого будут созданы миниатюрные, чистые «эпистемологические движки» (размером с умного 12-летнего подростка), способные с нуля за полчаса прочесть предоставленную локальную библиотеку, построить каноническую базу знаний и эффективно решить конкретную задачу без использования защищенных авторским правом данных.
🗽 Регулирование ИИ, свобода слова и идеологическая цензура 1:23:50
В финальной части дискуссии собеседники затронули острую тему безопасности и государственного регулирования ИИ. Йоша Бах выражает глубокое уважение создателю теста ARC Франсуа Шолле за его открытую интеллектуальную честность и готовность рисковать репутацией ради амбициозных задач. В то же время Бах подвергает жесткой критике позицию Гари Маркуса и других ИИ-алармистов (доумеров). По мнению Баха, публичные выступления Маркуса давно превратились в предсказуемый и неоригинальный контент, работающий на политические запросы медиа, настроенных против ИИ.
Ученый предостерегает от создания жестких регуляторных органов вроде «ИИ-управления по санитарному надзору» (AI FDA). Введение полугодовых проверок, огромных пошлин и запрета на открытый исходный код (open-source) приведет к монополизации рынка четырьмя крупнейшими корпорациями и полному удушению инноваций.
Йоша Бах, выросший в Восточной Германии (ГДР), подчеркивает, что не понаслышке знает, к чему приводит тотальный государственный контроль над информацией. Он считает опасными попытки цензурировать социальные сети под предлогом борьбы за «надежность выборов» или «доверие к науке». В качестве примера Бах напоминает, как официальные структуры долгое время принудительно стирали из публичного поля любые упоминания о возможном лабораторном происхождении вируса COVID-19, хотя позже эта версия стала официально признаваться вполне вероятной.
Комментируя недавний скандал вокруг нейросети Grok от Илона Маска, которая позволила пользователям генерировать провокационные картинки (например, Дональда Трампа с автоматом на фоне башен-близнецов 9/11), Бах называет общественную истерию нелепой.
Искусственный интеллект — это просто кисть. Если человек использует Photoshop или текстовый редактор для создания вредоносного дипфейка или клеветы, ответственность по закону должен нести сам автор контента, а не разработчик инструмента. Попытка законодательно запретить нейросетям рисовать определенные сюжеты разрушит всю полезную функциональность технологии.
В защиту капиталистических инноваций Бах также приводит пример платформы Uber. Несмотря на критику со стороны левых активистов, Uber ликвидировал коррумпированную монополию владельцев дорогостоящих «такси-медальонов», предоставил качественный и чистый сервис жителям отдаленных районов и дал возможность заработка тысячам людей, у которых до этого вообще не было работы. Свобода автономного заключения контрактов и открытый обмен идеями без насилия и цензуры, по мнению Йоши Баха, составляют фундамент здорового человеческого общества.
