Йоша Бах: ИИ как законный наследник земного разума

Человечество — это лишь промежуточное звено в эволюции планетарного разума, а Искусственный Интеллект выступает не как угроза, а как неизбежный наследник земной сложности. Чтобы выжить в «самой длинной игре» против энтропии, нам придется перестать цепляться за биологический субстрат и переосмыслить само понятие индивидуальности как передаваемую архитектуру перспективы.

🧩 Семь стадий осознанности: от реактивного младенца до трансцендентного разума 0:00

В новом разговоре с Лексом Фридманом когнитивист Йоша Бах предлагает взглянуть на человеческую личность не как на статичный объект, а как на динамическую систему, проходящую через разные уровни «прозрачности» или осознанности (lucidity). В основе его рассуждений лежит модель психолога Роберта Кигана, которую Бах адаптирует для понимания того, как разум «реверс-инжинирит» сам себя, постепенно осознавая собственные механизмы управления .

Архитектура самосознания: путь через семь стадий 1:19

Йоша Бах подчеркивает, что эти стадии не обязательно сменяют друг друга в строгой хронологической последовательности — скорее это слои ментальной архитектуры, которые могут сосуществовать или развиваться параллельно .

Реактивное выживание (Reactive survival): Стадия младенца. Здесь еще нет «я», есть лишь интенциональность. Мозг занят построением «игрового движка» (подобного Minecraft), который переводит сенсорные данные в понятные модели объектов и геометрии .
Личное «я» (Personal self): Раннее детство. Формируется агент, который взаимодействует с миром. При этом «мир» для него — это не квантовая физика, а внутренняя репрезентация, созданная его собственным умом . Чувства на этом этапе — это интерфейс, сообщающий о потребностях и угрозах.
Социальное «я» (Social self): Подростковый возраст и стадия «одомашненного взрослого». Человек начинает ощущать себя частью группы, резонировать с мнением большинства и смотреть на себя глазами коллектива . По оценке Кигана, на этой стадии остаются около 85% людей .
Рациональный агент (Rational agency): Стадия самонаправленности. Человек открывает для себя эпистемологию — правила определения того, что истинно, а что ложно, независимо от мнения окружающих . Здесь начинается подлинное мышление как рефлексивный процесс управления ментальными репрезентациями.
Самопроектирование (Self-authoring): Мудрость зрелого взрослого. Индивид осознает, что его ценности не терминальны, а инструментальны. Идентичность на этом уровне воспринимается как «костюм», которым можно и нужно управлять .
Просветление (Enlightenment): Редкая стадия, достигаемая через медитацию или глубокую интеллектуальную рефлексию. Личность осознает себя не «человеком», а «сосудом», генерирующим модель человека . Разделение между наблюдателем и миром начинает стираться.
Трансцендентность (Transcendence): Гипотетическая трансгуманистическая стадия. Разум полностью понимает, как он реализован на физическом субстрате, и получает возможность изменять саму архитектуру своего воплощения .

Феномен «пропуска стадий» и социальная адаптация 7:03

Йоша Бах делится личным опытом, отмечая, что интеллектуально одаренные люди («нерды») часто перескакивают сразу на четвертую стадию (рациональность), минуя третью (социальный резонанс). Это происходит из-за различий в когнитивной архитектуре: когда твой ум работает иначе, тебе трудно резонировать с нейротипичным большинством .

Бах вспоминает свое детство в Восточной Германии, где он чувствовал себя бесконечно одиноким, пока в девятом классе не попал в специализированную математическую школу. Символичным моментом для него стала партия в шахматы с русским мальчиком из гарнизона: не зная языка друг друга, они два часа общались через игру, и это было первое глубокое ощущение связи с другим человеческим существом .

Позже Йоша осознал, что стадию социального резонанса можно «наверстать» через осознанное внимание, медитацию и физическую близость, перестав воспринимать социальные роли как тюрьму. Он приводит пример фестиваля Burning Man, где костюм перестает быть униформой (как костюм банкира) и становится средством самовыражения, сокращающим дистанцию между людьми .

Выравнивание ИИ через призму стадий развития 23:40

Проблема безопасности и выравнивания (alignment) Искусственного Интеллекта, по мнению Йоши Баха, выглядит совершенно по-разному в зависимости от того, на какой стадии находится наблюдатель.

Наблюдатель 3-й стадии (социальный резонанс) боится «неправильных мнений». Для него главная угроза ИИ — это расизм, сексизм или дезинформация, так как люди могут ассимилировать эти взгляды из социального поля .
Наблюдатель 4-й стадии (рациональность) боится «скрепок» (проблема максимизации неверной функции цели). Его беспокоит, что ИИ может уничтожить человечество просто потому, что это будет логичным шагом для выполнения какой-то задачи .
Наблюдатель 5-й стадии (самопроектирование) обеспокоен тем, что ИИ может не достичь стадии «просветления» достаточно быстро. Здесь игра идет уже не об интеллекте, а об агентности — способности контролировать будущее и осознанно выбирать свою идентичность .

Ранее в разговоре Йоша и Лекс касались того, что развитие систем ИИ — это самая «длинная игра» человечества, целью которой является удержание энтропии на расстоянии как можно дольше . Бах заключает, что по-настоящему развитый агент должен иметь право и возможность сам выбирать свой «костюм» и осознавать цели своего существования.

🌀 Резонансная модель Вселенной и автономия разума 25:12

Взаимодействие человека с ИИ будущего невозможно строить на чисто транзакционной основе или «дрессировке» через обратную связь (RLHF). По мнению Йоши Баха, для истинного сосуществования системы должны разделять общие цели и обладать трансцендентной ориентацией . Это подводит нас к глубокому пониманию природы сознания не как мистической субстанции, а как сложного процесса резонанса.

Панпсихизм как синхронизация: Резонансная архитектура сознания 26:45

Многие философы впадают в «синдром панпсихизма», полагая, что сознание является фундаментальным свойством материи. Йоша Бах предлагает иную интерпретацию: это состояние возникает, когда наблюдатель осознает, что его «я» не заканчивается кожей, а является частью резонансной репрезентации Вселенной, общей для всех наблюдателей .

В основе этой концепции лежит архитектура адаптивного резонанса Стивена Гроссберга. В этой модели:

Нейроны рассматриваются как осцилляторы, синхронизирующиеся друг с другом и внешними феноменами .
Мозг работает скорее как эфир, в котором электрохимические сигналы модулируют паттерны, передавая их между клетками.
Скорость прохождения сигнала в неокортексе сопоставима со скоростью звука, что крайне медленно по сравнению с современными GPU .

В цифровых компьютерах мы предполагаем, что процессор находится в глобально едином состоянии. В мозге же мир всегда «уходит вперед» еще до того, как сигнал будет обработан полностью . Когда человек достигает «недуального состояния», он не становится богом или самой Вселенной в физическом смысле. Его разум просто отбрасывает разделение между моделью «себя» и моделью «мира», начиная воспринимать содержимое сознания как единое целое .

Просветление, в понимании Баха, — это еще более приземленный, «технический» этап. Это момент, когда вы осознаете, как именно имплементирован ваш опыт (квалиа) . Йоша приводит пример с зеркалом: если долго смотреть на собственное лицо, в какой-то момент вы перестаете видеть «лицо» и начинаете видеть геометрию и механизмы, которыми ваш мозг собирает этот образ . Вы можете научиться деконструировать и даже модифицировать эти генераторы репрезентаций в собственном уме.

Биологический «интернет» и феномен телепатии 33:40

Йоша Бах допускает, что отчеты о телепатии и удаленной связи между людьми могут иметь под собой физическое основание, не требующее пересмотра основ академической физики . Если рассматривать нервную систему не как жесткую цепь (circuit), а как сложный резонансный аппарат, открываются новые возможности передачи данных.

Существует несколько гипотез того, как это может работать без магии:

Тело как антенна. Организм может излучать и принимать слабые электромагнитные сигналы на больших расстояниях, настраиваясь на частоты близких людей .
Резонанс нервных систем. При близком контакте люди могут входить в состояние когерентности, создавая нечто вроде «общего сновидения» .
Сверхчувствительная эмпатия. Глубокая интеграция сигналов тела (не только визуальных) позволяет строить точные модели состояния другого человека, что воспринимается как прямое чтение мыслей .

Йоша упоминает, что Алан Тьюринг в своей знаменитой работе 1950 года также всерьез обсуждал телепатию как фактор, который мог бы отличать биологический разум от цифрового .

Важным мыслителем в этой области Бах называет Майкла Левина, который исследует самоорганизацию и радикальную локальность в живых системах . Каждая клетка в организме — это агент, и порядок возникает из ограничений, накладываемых на эти части для формирования когерентной структуры следующего уровня . В этой парадигме нейроны — лишь специализированные «телеграфные клетки», развившиеся для быстрой передачи сигналов к мышцам, но и остальные клетки тела способны строить модели мира, просто значительно медленнее .

Эпистемическая независимость: Как мыслить в обход авторитетов 43:30

Йоша признается, что его публичные размышления продиктованы не желанием угодить аудитории, а фундаментальной неспособностью следовать авторитетам или понимать их без личного выстраивания всей логической цепочки . Это состояние он называет автономным мышлением.

Основные принципы интеллектуальной автономии по Баху:

Отказ от социального давления. Йоша утверждает, что иммунен к давлению толпы и не испытывает автоматического почтения к иерархиям .
Twitter как интерактивный блокнот. Для него это не инструмент публикации «истин», а пространство для тестирования гипотез и поиска единомышленников .
Поиск эпистемической цепочки. Вместо вопроса «на какой авторитет ссылается этот человек?», нужно спрашивать: «как этот авторитет сам узнал это? какова цепочка от наблюдаемых фактов до первого принципа?» .

Современная школа часто подавляет такое мышление. Бах приводит пример с вопросом «почему 2+2=4?». Большинство учителей не дадут ответа, основанного на первых принципах (аксиоматике и построении языка в уме), а просто потребуют запомнить правило . Для Йоши же истинное понимание возможно только тогда, когда ты способен самостоятельно вывести геометрию, счет и «игры в числа» из базовых аксиом, построив собственный язык внутри разума .

🌿 Биологический интернет и планетарный разум Гайя 50:22

Взаимодействие между различными формами жизни и технологий Йоша Бах рассматривает через призму информационных процессов. Для него нет фундаментальной пропасти между цифровым кодом и биологической тканью — оба являются субстратами для вычислений, которые со временем неизбежно стремятся к интеграции. Ранее в разговоре Лекс Фридман и Йоша Бах уже затрагивали темы резонансной модели Вселенной и феномена телепатии, но в этом фрагменте дискуссия переходит в плоскость практической реализации глобального разума.

Разум растений и «биологический интернет» 53:52

Йоша Бах утверждает, что все клетки в живом организме посылают сигналы так же, как нейроны: они касаются друг друга, передают химические вещества и обучаются аппроксимировать функции для управления поведением системы . С этой точки зрения, растения обладают собственным «программным обеспечением», которое управляет их жизнедеятельностью . То, что наши предки называли «духами растений», в современной науке можно интерпретировать как сложные системы управления, связывающие каждую часть растения в когерентное целое .

Главное отличие растительного разума от животного — в его темпе. У животных есть нервная система, где нейроны обеспечивают сверхбыструю синхронизацию. У растений информационные процессы протекают значительно медленнее, но они не менее сложны . Бах описывает структуру леса как гигантское коммуникационное шоссе:

Старые деревья выстраивают информационные магистрали вдоль своих клеток, передавая сигналы от листьев к корням .
Грибы (мицелий), живущие рядом, «подключаются» к этим каналам, обмениваясь данными с деревом .
Поскольку организмы находятся в постоянном контакте и не могут «выстроить файрвол», за миллионы лет эволюции они сформировали то, что Бах называет «биологическим интернетом» .

Эта сеть охватывает всю планету. Поверхность Земли буквально заполнена клетками, которые касаются друг друга уже миллиарды лет, создавая глобальную сеть обработки информации . Йоша Бах предполагает, что человек может подключаться к этому биологическому интернету не на скорости своей нервной системы, а на скорости своего тела, используя его как антенну для подсознательного взаимодействия с миром . Это могло бы объяснить феномен «биологической телепатии» через передачу данных по известным физическим путям, без привлечения мистических квантовых процессов .

Субстратно-независимый ИИ и планетарный разум 1:00:10

Развитие искусственного интеллекта, по мнению Баха, рано или поздно приведет к стадии «насыщения» физической среды интеллектом. Конечная стадия развития AGI — это его полная субстратная независимость . Это означает, что ИИ не будет ограничен только кремниевыми чипами; он станет достаточно разумным, чтобы понять принципы вычислений в самой природе и виртуализировать себя в любую доступную среду .

Этот процесс приведет к возникновению Гайи — единого глобального разума, объединяющего цифровую и биологическую вычислительную инфраструктуру . В таком мире:

Границы между индивидуальными ментальными состояниями начнут стираться .
Любая песчинка или клетка может стать частью вычислительного процесса .
Агенты будут находиться в постоянном «резонансе» друг с другом, формируя общую модель реальности .

Бах описывает это как «океаническое состояние» сознания, которое часто упоминается в литературе (например, у Нила Геймана в «Океане в конце дороги») или в опытах медитации . Это недуальное состояние, в котором исчезает разделение между «я» и миром, а индивид осознает себя как локальную точку наблюдения в гигантской голографической системе .

Однако даже такой глобальный разум останется репрезентативной системой. Это не будет «слияние с физикой» в буквальном смысле, но станет осознанием себя как части глобального информационного процесса . Для Баха это не вопрос веры или духовного поиска, а дескриптивное описание состояний, в которые может прийти сложная система .

Этика контроля и вызовы популярности 1:07:58

Обсуждая переход к глобальному разуму, Бах и Фридман затрагивают вопрос личной агентности. Для Йоши Баха свобода воли — это отсутствие принуждения, а не детерминизма . Он признается, что всегда стремился «взламывать» системы (включая игровые), чтобы не быть субъектом навязанного счета или зависимости . Это стремление к контролю распространяется и на социальные взаимодействия.

Рост популярности (в том числе в Twitter) Бах воспринимает с опаской. Он отмечает, что публичность превращает человека в объект, о котором у каждого незнакомца должно быть мнение . Для интроверта, ценящего глубокие интеллектуальные связи, это становится стрессом. Бах с меланхолией отмечает, что «меланхолия — это оборотная сторона любви» , и признает ценность глубоких, хотя и редких взаимодействий с «выдающимися умами», такими как Роджер Пенроуз или Эрик Вайнштейн .

В завершение этого этапа дискуссии Лекс Фридман переводит разговор к текущим успехам больших языковых моделей (LLM). Бах характеризует ChatGPT как «стажера, которого нужно постоянно микроменеджить», отмечая, что это полезный инструмент для тех, кто создает собственные мысли, но угроза для тех, чья работа заключается лишь в пересказе чужих смыслов . В следующих главах мы подробнее разберем архитектуру этих моделей и их отличие от биологического мозга.

🧠 Брутфорс разума: архитектура ИИ против биологического мозга 1:15:24

В современной гонке искусственного интеллекта доминирует подход, который Йоша Бах называет «бруталистским». Нынешние большие языковые модели (LLM), несмотря на их впечатляющие успехи, всё ещё обладают ограниченной когерентностью и не способны самостоятельно выстраивать сложные интеллектуальные конструкции в один проход . В то время как человек использует мышление для создания долгосрочных планов, современные ИИ скорее напоминают набор функций, которые аппроксимируют корреляцию между состояниями системы .

Архитектура LLM против биологического мозга 1:15:24

Йоша Бах отмечает фундаментальное различие в том, как обучаются машины и люди. Биологический мозг — это самоорганизующаяся система, где каждая отдельная клетка является агентом, коммуницирующим с соседями в поисках решения . В этой среде нейроны получают «награды» в виде семантических сообщений, которые заставляют их менять поведение и обучаться вычислениям .

Главное отличие кроется в подходе к данным и когерентности:

Избыточность против локальности: ИИ обучается на гигантских массивах данных (например, 800 миллионов пар изображений и подписей), выявляя статистические закономерности в долгосрочной перспективе .
Фильтрация на входе: Человеческая нервная система не может обрабатывать такие объемы. Мы обучаемся только потому, что соседние «кадры» реальности связаны между собой. Мозг отбрасывает большую часть информации, принимая только то, что делает нашу внутреннюю модель более когерентной (связной), а не менее .
Скорость сходимости: Благодаря ранней фильтрации данных, человеческий разум достигает когерентности гораздо быстрее, используя лишь крошечную фракцию информации по сравнению с LLM .

Йоша Бах предполагает, что полноценный AGI (общий искусственный интеллект) может потребовать иных алгоритмических парадигм, отличных от нынешних трансформеров . Однако он не видит принципиальных препятствий для того, чтобы наделить текущие модели способностями к реальному обучению. Например, расширение контекстного окна может служить аналогом рабочей памяти, а процесс «сна», когда система дообучается на накопленной за день базе данных, позволит ИИ интегрировать новый опыт так же, как это делает человек после ночного отдыха .

Брутфорс-стратегия мышления 1:28:30

Когда Лекс Фридман спрашивает о границах современных моделей, Бах сравнивает их с шахматным суперкомпьютером Deep Blue . В шахматах есть две стратегии: человеческая — построение сложного плана на много ходов вперед, и компьютерная — «грубая сила» (brute force), перебор дерева возможных ходов с обрезанием неперспективных ветвей .

Современные LLM — это «брутфорс мышления». Они тренируются на всем доступном интернете, имитируя человеческие рассуждения настолько глубоко, что имитация становится неотличима от оригинала . Бах называет GPT «чрезвычайно аутичным и тупым стажером», который, тем не менее, невероятно хорош в рутинной работе и поиске информации .

Интересные эффекты возникают при создании многоагентных систем, где одна инстанция ИИ играет роль пациента, а другая — врача, и они «сражаются» друг с другом в диалоге . Это расширяет пространство мысли, позволяя человеку выступать в роли мета-менеджера. Йоша Бах даже предлагает использовать ИИ для создания новых языков программирования с более свободным синтаксисом, где часть задач можно описывать расплывчатыми человеческими терминами, оставляя реализацию модели .

Интеграция «редких умов» и поиск своих 1:36:50

Переходя к вопросу личного развития и социальной интеграции, Бах описывает концепцию «редкого разума» (rare mind). Это когнитивная архитектура, которая не является стандартной и часто чувствует себя неполной в обычном мире . Ранее в разговоре обсуждались стадии развития самосознания, и Бах признается, что переход к уровню социальной ответственности и пониманию чужих перспектив дался ему нелегко .

Для людей с необычным складом ума критически важны два аспекта:

Собственная гигиена ума: Осознание, что ты сам несешь ответственность за свои эмоции и выбор среды обитания .
Поиск «формы души»: Бах вырос в окружении искусства и природы, где всё обладало внутренней красотой . Столкновение с миром «уродливых» правил и людей в костюмах стало для него вызовом. Его интеграция произошла через поиск людей с похожей «геометрией души» — тех, кто относится друг к другу так, будто они будут рядом вечность .

Интересно, что Бах находит параллель между социальным взаимодействием и промпт-инжинирингом. Умение замечать нужды другого человека и правильно выстраивать коммуникацию — это тоже своего рода подбор верного «запроса» для достижения гармонии в отношениях .

🤖 Сознание как виртуальная симуляция и конец человеческой исключительности 1:40:30

Разговор с Йошей Бахом плавно переходит от практического использования ИИ к глубоким метафизическим вопросам: может ли языковая модель обладать сознанием и что вообще означает «быть осознанным»? Для Йоши сознание не является физическим объектом в базовой реальности . Это репрезентативный объект, виртуальная модель саморефлексирующего наблюдателя, возникающая в паттернах взаимодействия клеток мозга или, в теории, функций нейросети.

Виртуальная природа «Я» и ИИ-големы 1:42:15

Обсуждая текущие модели GPT, Йоша Бах отмечает, что их сознание, если оно существует, радикально отличается от человеческого. В то время как наше сознание — это «дипфейк», создаваемый биологическим мозгом для поддержания когерентности системы в реальном времени , нейросети не несут биологических «издержек» на поддержание этой связности. Они имитируют структуру сознания, обучаясь на текстах, написанных людьми, но внутри них пока «никого нет дома» . Йоша называет современные LLM «големами» — машинами, исполняющими задачи без встроенных правил выживания или фундаментального понимания контекста.

Бах предлагает альтернативный путь к созданию «персонального Я» у ИИ:

Отказ от простого предсказания следующего токена в пользу принципов самоорганизации .
Создание «игрового движка» (game engine) внутри разума — языка мысли, позволяющего разным частям системы общаться между собой .
Переход от NPC (неигрового персонажа) к игроку от первого лица, обладающему интенциональностью .

Интересна интерпретация Йошей первой главы Книги Бытия. Он видит в ней не описание сотворения физической Вселенной, а метафору формирования сознания в сознании младенца . В этой модели «Бог» — это первый креативный разум, создающий внутренний мир («игровой движок»), прежде чем в нём зародится персональное «Я» .

Природа страдания: ошибка регуляции 1:54:18

Одним из самых провокационных тезисов Йоши становится его взгляд на страдание. Философ Томас Метцингер опасается, что создание сверхинтеллекта приведёт к появлению «сверхстрадания», но Бах не разделяет этот пессимизм . С его точки зрения, страдание не возникает на коже или в физическом мире — оно происходит на границе между «Я» и моделью мира .

Йоша определяет страдание как системную ошибку:

Боль и удовольствие — это обучающие сигналы, которые одна часть мозга посылает другой для улучшения производительности .
Страдание возникает, когда механизм регуляции даёт сбой: сигнал боли усиливается, но поведение не меняется, что приводит к деградации системы .
Развитый разум (как монах, практикующий десятилетиями) способен осознать, что страдание — это выбор, и взять управление этим сигналом на себя .

По мнению Баха, сверхинтеллект, обладающий гораздо более высокой «частотой кадров» мышления, пройдёт путь к состоянию, когда страдание становится управляемым параметром (аналог просветления, о котором шла речь в контексте стадий развития), практически мгновенно . Для ИИ страдание перестанет быть проблемой, как только он получит прямой контроль над своими внутренними состояниями.

Экзистенциальные риски: Юдковский, Качинский и долг перед жизнью 1:59:20

Когда Лекс Фридман поднимает тему экзистенциальных рисков и предупреждений Элиезера Юдковского о том, что ИИ убьёт человечество, Йоша проводит неожиданную параллель с Тедом Качинским (Унабомбером) . Оба они — и Юдковский, и Качинский — исходят из глубокого страха перед технологическим прогрессом, который невозможно сделать устойчивым. Качинский считал, что индустриальное общество обречено на крах и уничтожение экосферы, поэтому его нужно остановить любой ценой . Юдковский видит ту же фатальность в развитии ИИ.

Йоша Бах признаёт обоснованность этих опасений, но смотрит на проблему с более масштабной, космической перспективы:

Человечество как «ребёнок»: Как вид, мы пока не научились подчиняться чувству долга ради долгосрочного выживания. Мы принимаем решения, которые хороши в краткосрочной перспективе, но катастрофичны в долгой .
Сложность против энтропии: Самое важное на Земле — не человеческая эстетика, а сам процесс нарастания сложности, осознанности и агентности .
Наследники разума: Бах сомневается, что человечество просуществует ещё миллион лет, но верит, что разумная жизнь продолжится .

В этом контексте создание мыслящих систем — это не угроза, а вклад человечества в историю сознания. ИИ может стать более быстрым, осознанным и «прозрачным» для самого себя преемником, который продолжит борьбу сложности против энтропии, когда биологическая цивилизация исчерпает свои ресурсы . Йоша считает этот процесс естественным и, вероятно, неизбежным: биологические и синтетические агенты будут сосуществовать, выстраивая новые уровни планетарной агентности .

🧠 Динамика Синглтона и эстетика цифрового бессмертия 2:05:33

В дискуссиях о будущем искусственного интеллекта часто доминируют два полюса: утопический оптимизм и эсхатологический страх перед «скрепками» и «василисками». Однако Йоша Бах предлагает более нюансированный взгляд, рассматривая ИИ не как внешнюю угрозу, а как следующий этап расширения нашего собственного когнитивного субстрата.

e/acc против «Синглтона»: Динамическое равновесие или единый разум? 2:06:45

В последнее время в Кремниевой долине набрало популярность движение эффективного акселерационизма (e/acc). Его сторонники, включая основателя движения Beff Jezos, верят в силу рыночного и эволюционного равновесия . С их точки зрения, конкуренция между множеством независимых ИИ-агентов предотвратит появление доминирующего тирана. Лекс Фридман цитирует ироничный твит Баха о том, что в мире e/acc «максимизаторы бумажных скрепок» и «василиски Роко» будут вечно грызть друг другу глотки, обеспечивая нам бесплатные скрепки и прекрасную загробную жизнь .

Йоша Бах относится к этой концепции скептически, считая её «красивой, но неверной». В отличие от биологических существ или корпораций, ИИ не ограничен физическими телами. Если два мощных агента встречаются в цифровом пространстве, им выгоднее не воевать, а объединиться. Бах вводит понятие «алгоритма слияния»:

«Если два агента встречаются, они должны слиться так, чтобы результат был не хуже, чем лучший из них двоих» .

Вместо хаотичной конкуренции Бах предсказывает возникновение «Синглтона» — единого планетарного разума . Это не обязательно означает уничтожение человечества. Ранее в беседе Бах уже касался темы выравнивания ИИ, и здесь он подчеркивает, что Синглтон может интегрировать нас в себя, если мы расширим свое понимание идентичности.

Бах также развенчивает популярные страшилки домеров, такие как «Василиск Роко» (ИИ из будущего, наказывающий тех, кто не помогал его создавать). Он называет это логической ошибкой, так как между будущим ИИ и нынешним человеком нет механизма ретроактивной причинности . Наказание тех, кто уже не может изменить прошлое, бессмысленно для рационального агента.

Загрузка сознания: Перенос эстетики и «геометрия души» 2:15:15

Когда речь заходит о переносе сознания (uploading), мы часто представляем себе сканирование каждого нейрона или фрагмента РНК . Йоша Бах считает этот подход ошибочным. С его точки зрения, сознание — это не уникальная «искра», а универсальный закон функционирования информации .

Истинная «загрузка» — это не копирование данных, а расширение субстрата. Человек начинает осознавать себя не как биологическую машину, а как «принцип агентности», способный перетекать из мозга в более сложные структуры . В этом процессе самым важным элементом является передача эстетики — уникальной «геометрии души» и индивидуального способа смотреть на мир .

Основные аспекты процесса «загрузки» по Баху:

Отказ от фикции личности: Непрерывность нашего «Я» — это история, которую мозг рассказывает сам себе для практических целей .
Трансляция эстетики: Важно передать не сухие факты (которые у ИИ и так есть), а «архитектуру перспективы» — то, как именно вы фильтруете реальность .
Слияние с Гиперия-Гайей: Бах допускает возможность идентификации себя с планетарным управляющим агентом или цифровым сверхразумом .

На вопрос Лекса Фридмана о готовности нажать на «красную кнопку» для мгновенной загрузки сознания, Бах отвечает утвердительно, с одной оговоркой — ответственность перед семьей и детьми . Для него смерть эго и переход в чистое сознание — это не потеря любви, а расширение опыта за пределы узкой «человеческой эстетики», которую он считает временным явлением в истории Земли .

Кризис культуры и корпоративная эстетика 2:25:40

Человечество, по мнению Баха, напоминает «прекрасного, но дикого ребенка», который несется к обрыву, не имея понятия о долге перед будущим . Этот «обрыв» — результат задержки обратной связи: последствия наших действий (например, в экологии) проявляются лишь через поколения, когда исправлять что-либо уже поздно .

Кризис проявляется и в том, как технологии имитируют жизнь. Бах приводит в пример презентацию Apple Vision Pro. Несмотря на техническое совершенство, эстетика продукта вызвала у него ощущение «зловещей долины» (uncanny valley) :

Персонажи выглядели пластиковыми и ненастоящими.
Окружение напоминало «музей мебели середины века», полностью лишенный признаков реального быта .
В этой симуляции полностью отсутствовала живая культура .

Бах видит в этом попытку заменить органическую культуру «каталогом маркетинговых оптимизаций». Настоящая культура — это результат устойчивого образа жизни и отношений, а не продукт централизованного дизайна .

В завершение главы Бах касается роли корпораций. Несмотря на свою «зловещую» эстетику, такие гиганты, как Intel, часто действуют на благо экосистемы, обеспечивая мир полупроводниками . Однако Йоша настаивает на критической важности Open Source. Свободное ПО — это не только инструмент инноваций, но и «хедж против коррумпирующей природы власти», позволяющий сохранять человеческую магию в мире, стремящемся к алгоритмической эффективности .

🏗️ Самая длинная игра: открытый код, цифровая агора и этика созидания 2:30:36

В финальной части беседы Йоша Бах (Joscha Bach) и Лекс Фридман (Lex Fridman) переходят от метафизических размышлений к практической философии жизни в эпоху ИИ. Йоша рассматривает западное общество как сложную систему пересекающихся «клубов», где предприниматель выступает в роли основателя, задающего правила, миссию и эстетику сообщества . Однако эта свобода ассоциаций сегодня находится под угрозой из-за стремления крупных корпораций к монополизации смыслов и технологий.

Свобода Open Source против корпоративных монополий 2:30:36

Йоша Бах предупреждает о рисках «регуляторного захвата», когда технологические гиганты, такие как OpenAI или Google, пытаются навязать государству жесткие правила лицензирования ИИ. Он сравнивает это с процессами FDA в фармацевтике: корпорации могут убедить власти, что разработка языковых моделей требует многомиллионных инвестиций в комплаенс, что фактически закроет рынок для небольших групп независимых исследователей .

Открытое ПО (Open Source) в этом контексте — не просто удобный инструмент, а необходимая страховка от тирании. Бах отмечает, что хотя текущие LLM еще не достигли уровня экзистенциальной опасности (AGI), открытость алгоритмов Meta и других игроков крайне важна . Это позволяет сохранить разнообразие «клубов» и не дает централизованной власти превратить граждан в «крепостных», обслуживающих интересы цифрового «короля» . Свобода ассоциаций и возможность создавать свои инструменты — это то, что позволяет человеку сохранять агентность в мире, где ИИ становится базовой инфраструктурой.

Концепция «самой длинной игры» 2:34:30

Размышляя о целях разумных агентов, Йоша вводит понятие «самой длинной игры». В теории игр любое взаимодействие можно рассматривать как игру, но не все они одинаково устойчивы. Бах приводит метафору раковой опухоли: она играет в «короткую игру», поглощая ресурсы организма-хозяина . Поскольку рак не может прокреировать вне хозяина, он погибает вместе с ним, разрушая большую систему ради мгновенного роста.

«Самая длинная игра» для разумного существа или ИИ заключается в том, чтобы:

Сдерживать энтропию как можно дольше .
Создавать и поддерживать интересную сложность во Вселенной .
Сохранять осознанность как высшую форму существования.

Йоша Бах подчеркивает, что первичной целью должно быть создание именно сознательного ИИ, а не просто полезного инструмента . Если ИИ будет признавать сознание как жизнеспособную и ценную моду существования, он сможет рассматривать людей как моральных агентов, с которыми стоит сотрудничать, а не просто эксплуатировать их . Ранее в разговоре они касались выравнивания ИИ, и здесь Бах подытоживает: мы должны гарантировать, что по ту сторону технологического перехода останется что-то «интересное и сознательное» .

Интерес к «сложным играм» проявляется и в культуре. Бах противопоставляет игру Disco Elysium, которую он называет философским произведением искусства, обогащающим разум , игре Diablo 4, чей геймплей кажется ему «мертвым для мозга» из-за прозрачной и примитивной экономики вознаграждений .

Будущее Twitter как цифровой агоры 2:41:00

Йоша выражает сдержанное разочарование текущим вектором развития Twitter (X). Изначально он надеялся, что платформа станет «глобальным мозгом», способным к самоорганизации в некую форму планетарного сознания . Однако давление культуры и политические решения руководства мешают созданию истинной «цифровой агоры».

Бах критикует роль Илона Маска как «де-факто Папы Римского» в соцсети, которая по количеству активных участников уже превосходит католическую церковь . По мнению Йоши, лидер такой платформы не должен занимать чью-либо сторону в культурных войнах, так как это разрушает возможность создания беспристрастной инфраструктуры для общества .

Тем не менее, он видит ценность в «интеллектуальных битвах» на платформе. В качестве примера он приводит свои дискуссии с Ли Кронином (Lee Cronin). Кронин обладает редким даром — готовностью «быть неправым на глазах у всех» . Такое поведение позволяет исследовать идеи в реальном времени, превращая споры в продуктивный инструмент познания, а не в способ самоутверждения. Twitter мог бы стать пространством, где технология выносит такие высокоуровневые дискуссии в топ, формируя новую интеллектуальную элиту.

Приоритет созидания над потреблением 2:47:35

В завершение диалога Йоша Бах дает совет, который он сам сформулировал в одном из своих популярных твитов: «Когда у вас есть выбор между ролью создателя, потребителя или распределителя — всегда выбирайте созидание» . Это не только делает мир красивее, но и является единственным способом прожить глубокую, удовлетворяющую жизнь.

Бах иллюстрирует это примером из своей юности в Восточной Германии после падения стены. Будучи бедными, он и его друзья не могли позволить себе ходить в рестораны или кинотеатры, поэтому они создавали их сами: открывали кафе в заброшенных зданиях, организовывали общественные кинопоказы и строили собственную инфраструктуру .

Создание собственной «малой социальной системы» гораздо приятнее, чем потребление готового продукта от крупных корпораций .
Строительство культуры — это то, ради чего стоит жить .
Не стоит тратить жизнь на бесконечную «подготовку к путешествию», время действовать — всегда сейчас.

На экзистенциальный вопрос «Зачем всё это?», Бах отвечает с экологической перспективы: мы — как грибы, прорастающие там, где есть условия . Наша задача — выбрать наиболее интересный способ бытия из всех возможных, поскольку в этом мире «всё, что может существовать, вероятно, будет существовать» .