Физическая система не может обладать сознанием — оно доступно лишь симуляции, которую мозг разыгрывает внутри истории, рассказанной самому себе. Мы существуем как программные конструкты в вычислительной вселенной, сжигая ресурсы планеты ради комфорта на «последнем уровне» человечества. Этот глубокий разбор реальности превращает философию в кибернетику, где дух становится операционной системой, а Бог — платоническим идеалом цивилизации.
🧩 Глава 1: Вычислительная природа истины и коммуникация «нёрдов» 0:00
Интеллектуальный путь Йоши Баха (Joscha Bach) начался в изоляции, среди лесов Восточной Германии, в доме-мельнице, который его отец-архитектор превратил в «царство одного человека» и сад скульптур . Выросший в окружении книг и лишенный сверстников со схожими интересами до девятого класса, Бах сформировал уникальный взгляд на мир, свободный от необходимости подстраиваться под общепринятые интеллектуальные течения. Его подход к искусственному интеллекту — это не просто разработка алгоритмов, а глубокий философский проект, ставящий своей целью деконструкцию самой реальности через призму вычислений.
Этика нёрда: Коммуникация как рецензирование идей 3:55
Йоша Бах предлагает оригинальную дефиницию «нёрда», основываясь на фундаментальных различиях в целях человеческой коммуникации. По его мнению, нёрд — это человек, который ошибочно (с точки зрения общества) полагает, что основной смысл общения заключается в обмене информацией для взаимного рецензирования идей . Для нёрда любое утверждение — это «дар информации», который собеседник должен проверить на логическую целостность и точность.
В противовес этому «нормальные» люди используют коммуникацию как инструмент для установления социального соответствия и согласования позиций (alignment) . В этой системе координат истинность высказывания менее важна, чем его способность укрепить социальные связи или подтвердить статус. Этот конфликт целей делает нёрдов социально дезадаптированными: они пытаются «рецензировать» социальные ритуалы, в то время как окружающие ждут от них подтверждения принадлежности к группе.
Сам Бах признает, что его отчужденность в детстве была следствием этого интеллектуального барьера . В своей сельской школе он был «единственным нёрдом в округе», не интересовавшимся ничем, кроме физики, математики и программирования . Его раннее увлечение Станиславом Лемом, классическими философами и немецкими романтиками, такими как Гейне и Гессе, сформировало фундамент его мышления . Однако Бах подчеркивает необходимость перерасти «подростковую трансцендентальность», характерную для Ницше. Он описывает Ницше как человека, который «троллил самого себя», потому что принимал свои неудачи слишком серьезно . Истинный мыслитель, по Баху, должен стать «неважным как субъект», превращая философию в процесс поиска того, что объективно истинно, вне зависимости от личного эго .
Природа истины и вычислительное мировоззрение 10:57
Центральным вопросом для Йоши Баха является природа истины в контексте работы мозга. Он утверждает, что истина не является абстрактным абсолютом, а представляет собой «работающую модель» в рамках вычислительного процесса . Мозг называет «истиной» те репрезентации, которые обладают предсказательной силой или являются логически непротиворечивыми внутри заданной системы правил.
Бах предлагает радикально простую гипотезу существования: существование является состоянием по умолчанию, поскольку «небытие» — это бессмысленное понятие . С этой точки зрения:
- Вселенная может представлять собой суперпозицию всех возможных конечных автоматов .
- Мы находимся в той части этого «фрактала вероятностей», которая обладает свойствами, допускающими наше существование.
- Единственное, что может быть реально реализовано (имплементировано) — это вычислимые структуры .
Этот «конструктивистский поворот» в философии Баха тесно связан с историей математики XX века. Он отмечает, что классическая философия фактически закончилась, когда математика осознала себя как вычисление . Если Курт Гёдель был шокирован своими теоремами о неполноте, так как верил в существование математических истин вне вычислений, то Алан Тьюринг понял: математика — это и есть процесс вычислений .
В этой парадигме даже такие константы, как число Пи, не являются статичными значениями. В физической реальности число Пи существует только как функция: вы не можете знать «последнюю цифру», и никакая физическая система не может зависеть от обладания этой информацией . Таким образом, физика, основанная на континууме и бесконечной точности, в строгом смысле не может быть истинной. Бах ставит вычисления в центр мировоззрения, утверждая, что именно Людвиг Витгенштейн в своем «Логико-философском трактате» предвосхитил идеи универсальности вычислений еще до Тьюринга, пытаясь свести всю логику к базовым операциям, подобным вентилям NAND в современных процессорах .
Сегодня ИИ часто воспринимается как «продвинутая обработка информации» или «автоматизированная статистика» . Однако для Баха ИИ — это в первую очередь философский проект по созданию системы, способной самостоятельно моделировать структуру реальности . Интеллект здесь определяется не как рациональность, направленная на достижение цели, а как способность видеть структуру в паттернах и предсказывать их развитие.
🧠 Моделирование реальности: от интеллекта к субъективному опыту 25:10
Интеллект как конструктор моделей и разрыв с сентентностью 28:19
В диалоге с Лексом Фридманом Йоша Бах предлагает прагматичное и строго вычислительное определение интеллекта. С его точки зрения, интеллект — это не просто способность решать конкретные задачи, а общая способность создавать модели . Эти модели служат инструментами для взаимодействия агента с миром, позволяя ему предсказывать последствия своих действий.
Однако по мере усложнения задач система сталкивается с необходимостью понимать саму себя. Бах сравнивает этот процесс с развитием ребенка, который в какой-то момент начинает осознавать собственную психологию и структуру своего «я», чтобы предсказывать свои реакции на внешние стимулы . В этом контексте знаменитый тест Тьюринга приобретает рекурсивный характер: это не просто проверка машины, а проверка человека. По мнению Баха, мы «выигрываем» тест Тьюринга только тогда, когда создаем ИИ, способный объяснить нам, что такое интеллект и как он работает . Таким образом, тест Тьюринга — это вопрос о том, достаточно ли люди интеллектуальны, чтобы понять самих себя .
Критически важным является различие, которое Йоша Бах проводит между интеллектом и сентентностью (sentience):
- Интеллект — это механизм, «двигатель», который позволяет строить модели там, где их еще нет .
- Сентентность — это наличие специфического класса моделей, которые описывают место самого агента в мире и объясняют, что именно он делает в этой реальности .
Бах подчеркивает, что можно быть высокоинтеллектуальным, но обладать низкой степенью самоосознания, и наоборот . Сентентность — это не «бонус» к вычислительной мощности, а результат работы моделей, направленных на понимание собственного бытия.
Разум как симуляция и внутренний нарратив 38:13
Одним из самых провокационных тезисов Йоши Баха является утверждение, что мы не живем в физическом мире. «Мы существуем внутри истории, которую мозг рассказывает самому себе» . Физическая реальность на самом фундаментальном уровне представляет собой некий «квантовый граф», к которому у нас нет и не может быть прямого доступа . То, что мы воспринимаем как трехмерное пространство, объекты и цвета — это виртуальная реальность, генерируемая нейронами для управления биологическим организмом.
Ранее в разговоре собеседники упоминали вычислительное мировоззрение, и здесь Бах развивает эту мысль: наш мозг — это своего рода физический движок (physics engine), создающий интуитивную модель материального мира . Это приводит к глубокому парадоксу сознания:
- Физическая система (мозг) сама по себе не может ничего «чувствовать» .
- Организм нуждается в модели того, каково это — быть личностью, чтобы эффективно функционировать.
- Мозг создает симулякр личности — персонажа «мультимедийного романа», который мозг пишет непрерывно .
Бах радикально заявляет: «Физическая система не может быть сознательной. Сознательной может быть только симуляция» . Сознание — это свойство симулируемого «я», а не «железа», на котором эта симуляция запущена. Мы — это виртуальные персонажи, куклы в кукольном театре разума . И если эта виртуальная личность получает доступ к речевому центру и говорит: «Я вижу синее небо», — это и есть тот момент, который мы называем сознательным опытом.
Мир как фрактал и «хардкорная» саморегуляция 41:20
Для объяснения того, как наши модели соотносятся с реальностью, Йоша Бах использует метафору фрактала Мандельброта. Наблюдатель внутри фрактала может видеть сложные спирали и закономерности . Эти спирали «реальны» в том смысле, что они предсказуемы, но на самом деле их не существует — есть только простая порождающая функция (математический код). Наши законы физики подобны описанию движения этих спиралей: они работают на определенном уровне разрешения, но не вскрывают суть «генератора» вселенной .
Зачем мозгу вообще строить столь сложную иллюзию «себя»? Бах объясняет это потребностями регуляции. Мы — не просто обезьяны, мы — «побочный эффект» необходимости мозга управлять отношениями обезьяны с окружающей средой . Наше «я» (self) возникает как результат всех идентификаций и целей, которые мы перед собой ставим.
Каждая такая идентификация — это трекер регуляции. Мы чувствуем напряжение, когда реальность не соответствует нашим ожиданиям, и именно в этих точках «несогласия с миром» рождается сознание . Бах иронично замечает, что если человек сможет отпустить все свои идентификации и цели, он станет абсолютно свободным и «войдет в нирвану», потому что его системе больше нечего будет регулировать и не о чем будет писать свой внутренний роман .
🧩 Личность как программное состояние и нейроны-агенты 50:13
В этой части беседы Лекс Фридман и Йоша Бах переходят от обсуждения разума как симуляции к более радикальному вопросу: что именно мы называем «собой» и как эта структура поддерживается биологическим субстратом. Согласно Баху, наше «я» не обладает физической реальностью, а является сложным набором верований и вычислительных состояний.
Идентичность как программное обеспечение и вера в непрерывность 51:40
Йоша Бах утверждает, что человеческая личность не имеет физической непрерывности. С точки зрения физики, мы — это постоянно меняющийся поток частиц, и единственное, что связывает нас сегодняшних с нами вчерашними, — это информационный конструкт. Идентичность — это «программное состояние» (software state), модель, которую мозг создает для обеспечения последовательного поведения во времени .
В качестве примера Бах приводит институт Далай-ламы. С его точки зрения, Далай-лама — это не конкретный человек, а своего рода «государственное программное обеспечение», которое последовательно инсталлируется в новых носителях . Если вы идентифицируете себя не с биологическим телом, а с традицией или набором идей, вы в определенном смысле становитесь бессмертными, пока жива эта «операционная система» .
Для обычного человека смерть означает прекращение «реализации» (implementation) его личного симулякра. Однако Бах подчеркивает, что:
- Идентичность — это не физическое понятие, а репрезентация объектов на одной мировой линии .
- Мы вольны выбирать, с чем себя идентифицировать: с телом, с идеями или с обществом в целом .
- Геометрия и физический мир, которые мы воспринимаем, являются результатом работы механизмов репрезентации в мозге, а не «реальным миром» как таковым .
Ранее в разговоре они касались того, что разум — это симуляция, и Бах развивает эту мысль: всё, что мы чувствуем, от цвета до смысла, — это лишь графы отношений внутри нашей субъективной вселенной .
Сознание как модель внимания и ограничение Transformer-моделей 56:40
Пытаясь дать системное определение сознанию, Йоша Бах описывает его как модель содержимого внимания . В современных системах машинного обучения обучение происходит крайне медленно через обратное распространение ошибки (back-propagation). Человеческий мозг не может позволить себе тратить столько времени, поэтому он использует обучение на основе внимания (attention-based learning) .
Система сознания фиксирует, на что именно направлен фокус, и сохраняет это состояние в протоколе для последующего обучения. Сознание возникает в тот момент, когда петля внимания становится рефлексивной: система начинает направлять внимание на сам процесс внимания . Если эта петля достаточно «плотная», возникает эффект «пробуждения».
Лекс Фридман проводит параллель с архитектурой Transformer в ИИ, которая также использует механизмы внимания . Однако Бах скептичен: хотя трансформеры отлично отслеживают идентичность концептов в тексте (например, понимая, что местоимение «он» относится к конкретному ученому, упомянутому ранее), они не интегрируют это в единую модель мира . Они выучивают проекцию языка, но не понимают, что всё сказанное должно относиться к одной и той же стабильной вселенной.
Три волны ИИ и мозг как система мета-обучения 1:09:58
Бах выделяет три этапа в развитии искусственного интеллекта:
- Первая волна: Человек пишет алгоритм для решения конкретной задачи (например, шахматы) .
- Вторая волна (текущая): Человек пишет алгоритм обучения, который сам находит алгоритм решения задачи .
- Третья волна (будущее): Мета-обучение — поиск алгоритма, который сам открывает оптимальные алгоритмы обучения для конкретной области .
Человеческий мозг, по мнению Баха, — это именно система мета-обучения. Она не является монолитным обучающимся устройством, а представляет собой среду, в которой самоорганизуются различные вычислительные стратегии.
Нейроны как агенты обучения с подкреплением 1:10:11
Одним из самых глубоких прозрений Баха является децентрализованная природа мозга. В нем нет «центрального правительства» или глобальной функции потерь . Вместо этого каждый отдельный нейрон — это самостоятельный агент обучения с подкреплением (reinforcement learning agent) .
Нейрон — это сложная клетка, которая «хочет кушать». Он получает питание (электрические и химические сигналы, метаболические ресурсы), когда выдает сигнал, полезный для системы в нужный момент времени . Таким образом:
- Мозг — это самоорганизующееся сообщество эгоистичных нейронов .
- Различные области мозга (например, распознавание лиц) формируются потому, что в процессе эволюции определенные нейроны получали больше «награды» за внимание к специфическим паттернам .
- Прозопагнозия (лицевая слепота) возникает не из-за поломки «железа», а из-за того, что внимание системы распределено между лицами и другими объектами (например, чашками) равномерно, без приоритета .
В завершение этого блока Бах упоминает, что жизнь в целом — это способ борьбы с энтропией через «управляемые химические реакции» . Каждая клетка содержит в себе машину Тьюринга (в виде механизмов считывания ДНК/РНК), а объединение клеток в организмы порождает новый уровень программного обеспечения, который люди исторически называли «духом» . Этот концепт духа как операционной системы автономных сущностей станет фундаментом для дальнейших рассуждений о более масштабных системах.
🌐 Дух как операционная система и индустриальное пари с энтропией 1:15:39
В этой части беседы Йоша Бах (Joscha Bach) предлагает радикальный взгляд на фундаментальные понятия человеческого бытия, переводя их с языка мистики на язык компьютерных наук. То, что наши предки называли «духом», в современной когнитивной науке и ИИ можно интерпретировать как программное обеспечение или операционную систему (ОС) сложной автономной сущности.
«Дух» как операционная система: от растений до цивилизаций 1:15:39
Йоша Бах утверждает, что термин «дух» — это не мистическая субстанция, а способ описания макросостояний системы, чья микрофизическая реализация слишком сложна для прямого анализа . Для наблюдателя «дух растения» — это операционная система, управляющая его ростом и реакциями. То же верно и для человека: наш дух — это ОС, координирующая функции тела, социальные взаимодействия и внутренние нарративы .
По мнению Баха, разрыв между научным и донаучным мировоззрением — это во многом ошибка перевода. Науке потребовались столетия, чтобы переоткрыть понятия, которые уже были заложены в концепции «духа». В этом контексте:
- Индивидуальный дух — это софт, управляющий организмом.
- Культура — это дух общества, «длинная игра», ставшая самоосознанной на уровне выше индивида .
Если культура перестаёт заботиться о выживании внуков своих внуков, она перестаёт быть устойчивым «духом» и начинает умирать. Ранее в разговоре собеседники упоминали идентичность как программное состояние, и здесь Бах расширяет эту мысль: культура — это протокол, позволяющий нам осознавать себя частью чего-то большего, чем мы не можем полностью управлять, но чему должны подчиняться ради сохранения экосферы .
Интересно его наблюдение об интеллекте растений: Бах предполагает, что они могут обладать высокой степенью сложности, но их «сигнальная обработка» ограничена скоростью движения химических веществ (несколько миллиметров в секунду), в то время как у животных есть нервная система для мгновенной связи . Если экосистемы и обладают интеллектом, то они оперируют на временных шкалах в тысячи лет, оставаясь невидимыми для нашего быстрого восприятия .
Индустриальная революция и прыжок в «энтропийную бездну» 1:18:54
Йоша Бах описывает современную цивилизацию как результат рискованного пари, заключенного во время Индустриальной революции. Мы буквально «подписали контракт на пунктирной линии», согласившись сжечь запасы деревьев за 100 миллионов лет ради того, чтобы у каждого в доме был водопровод . Этот рывок позволил человечеству выйти из состояния биологической бедности — когда популяция ограничена количеством детей, которых можно прокормить, — и вырасти с 400 миллионов до нынешних миллиардов .
Однако за этот прогресс пришлось заплатить устойчивостью. Бах вводит метафору «энтропийной бездны» (entropic abyss): мы выдвинули нашу цивилизацию далеко над краем пропасти, создав конструкцию, которая держится только за счёт постоянного сжигания ресурсов . Если эта поддержка прекратится, «кантилевер» сломается, и мы рухнем в бездну хаоса.
В этом процессе Бах видит иронию эволюции. Возможно, мы — лишь инструмент «Гайи» (Земли как суперорганизма), призванный вернуть в атмосферу углерод, который миллионы лет назад оказался «заперт» в болотах из-за появления деревьев, которые тогдашние микроорганизмы не могли переработать . В этой перспективе люди — просто вид, предназначенный для того, чтобы «распечатать» углеродные запасы планеты, после чего экосистемы восстановятся в новом, более пышном виде, а от нас останутся лишь «телефоны вместо костей» в стратиграфических слоях будущего .
Замкнутые цепи охлаждения и технологическая стагнация 1:19:22
Выживание нынешней цивилизации теперь критически зависит от бесперебойной работы искусственных систем. Бах вводит концепцию «замкнутой цепи охлаждения» (closed cooling chain) . Для жителей жарких регионов, таких как Аризона, жизнь возможна только при условии, что они перемещаются из кондиционированного дома в кондиционированную машину и затем в супермаркет .
Опасность заключается в физиологическом пределе выживания — температуре «влажного термометра». Если влажность воздуха высока, человек не может охлаждаться через испарение пота и умирает в течение нескольких часов, если техника выйдет из строя . Наша жизнь — это забег между:
- Способностью технологий поддерживать эту искусственную среду.
- Нашей склонностью перерасходовать ресурсы и разрушать климатическую стабильность .
Лекс Фридман возражает, указывая на инновации (например, SpaceX и колонизацию Марса), но Бах настроен скептично. Он отмечает, что реальный технологический прогресс в США стагнирует с 1970-х годов . Большинство современных достижений — это лишь инкрементальное масштабирование идей полувековой давности (миниатюризация транзисторов, переход от CPU к GPU).
Даже появление социальных сетей Бах оценивает неоднозначно. С одной стороны, это попытка создания «глобального мозга», но на текущем этапе Твиттер больше похож на мозг, охваченный постоянным эпилептическим припадком из-за дофаминовой зависимости и отсутствия механизмов торможения . Мы утратили концентрацию внимания: современные интеллектуалы предпочитают видео на YouTube написанию книг, потому что ни у авторов, ни у аудитории больше нет терпения для длинных форматов .
🤖 Эволюция социальных протоколов: от диктатуры модерации к конкуренции сообществ 1:40:44
Йоша Бах предлагает радикально иной взгляд на будущее цифрового взаимодействия, который выходит за рамки привычных споров о цензуре и свободе слова. По его мнению, современная проблема социальных сетей — таких как Твиттер — заключается в попытке навязать единые правила сверху вниз. Вместо этого будущее лежит в эволюции протоколов, где сообщества получают возможность самостоятельно проектировать свои правила монетизации, модерации и социального взаимодействия .
Самопроектирование правил: будущее децентрализованного взаимодействия 1:40:57
Основная идея Йоши заключается в том, что мы не должны делать априорных предположений о «правильном» решении в области социальной архитектуры. Должны ли нормы соблюдаться через социальное давление, программные решения или ИИ-алгоритмы, проверяющие посты? Ответ на этот вопрос должен быть результатом эволюционного процесса. Бах предлагает позволить сообществам развиваться и конкурировать, создавая условия, при которых выживают наиболее «разумные» (sentient) из них .
«Разумное» сообщество в этом контексте — это сеть, которая производит наиболее интересные формы поведения и позволяет участникам взаимодействовать максимально полезным образом. Такая система должна помогать индивиду поддерживать здоровые отношения, строить команды и реализовывать свой лучший потенциал . Ключевой момент этой эволюции заключается в том, что неадаптивные или «нездоровые» сообщества должны иметь возможность умереть, уступив место более эффективным протоколам взаимодействия.
Однако в текущей реальности социальные структуры сопротивляются смерти. Йоша Бах, выросший в Восточной Германии, отмечает, что люди крайне болезненно реагируют на цензуру, особенно в Америке, воспринимая её как угрозу свободе . При этом он подчеркивает, что в любой сложной системе существуют механизмы блокировки элементов, которые вредят целостности системы. Весь вопрос в том, кто принимает это решение: распределенный протокол или централизованный орган, и каковы долгосрочные последствия этого процесса для общества .
Кризис доверия и поиск «общей цели» 1:43:12
Йоша указывает на фундаментальную связь между уровнем доверия в обществе и архитектурой надзора. В обществе с высоким уровнем доверия нет необходимости в тотальной слежке; более того, слежка подрывает это доверие, наказывая людей за подозрительное поведение, даже если они действуют во благо . Он диагностирует, что США в данный момент переходят от смешанного типа доверия к обществу с низким уровнем доверия, что неизбежно ведет к усилению цифрового контроля.
Проблема протоколов взаимодействия тесно связана с убеждениями, которые Бах называет «кодом, исполняемым в мозгу» . Культуры определяются правилами взаимодействия, и разные наборы правил приводят к разным результатам. Сегодня западное общество оказалось в ловушке между стремлением к разнообразию и угрозой тоталитаризма, не имея четкой приверженности к общей цели. Йоша считает, что нам необходимо заново открыть, что значит иметь «разделяемую цель» (shared purpose) и как сделать её совместимой с нетоталитарным мировоззрением .
В этом контексте любая система управления — будь то государственная или цифровая — должна стремиться к «бесшовности». Чем заметнее влияние регулирующего агента, тем больше трения он создает и тем менее эффективным является . Идеальный протокол, с точки зрения теории игр, — это агент, который корректирует метрики выплат таким образом, чтобы локальное равновесие Нэша (личная выгода) совпадало с общим благом . Ранее в разговоре они уже касались идеи разума как симуляции, и здесь Бах расширяет этот подход на социальные системы: мы заложники структур, которые не всегда способны предотвратить глобальный ущерб из-за отсутствия механизмов координации.
ИИ как «выходной люк» для цивилизации 1:47:25
Обсуждая долгосрочные перспективы, Бах выражает обеспокоенность тем, что человечество одновременно «слишком умно и недостаточно умно». Мы эффективно решаем краткосрочные технологические задачи, но не желаем подчиняться императивам, необходимым для долгосрочного выживания вида . Он сравнивает текущую ситуацию с пребыванием на «Титанике», который несется на айсберг: мы родились на этом корабле, мы наслаждаемся его интернетом и комфортом, но сама машина человечества неумолимо движется к экологическому или системному коллапсу .
В этом пессимистичном сценарии искусственный интеллект может стать тем самым «выходным люком» (escape latch). ИИ и автоматизация несут потенциал экстремального роста производительности, что может парадоксальным образом позволить человечеству вернуться к идеалам, близким к образу жизни охотников-собирателей . Это не означает отказ от технологий, а скорее создание таких протоколов координации, которые избавят нас от необходимости «перевыпаса» ресурсов планеты и позволят существовать в гармонии с биосферой, не превращаясь в винтики индустриальной машины.
Йоша подчеркивает, что хотя мы и привязаны к своей идентичности (которую он ранее в беседе определил как программное состояние), для выживания вида важнее качество моделей мира, которые мы создаем. Если ИИ поможет нам сформировать более точные и «разреженные» (sparse) модели реальности, мы сможем преодолеть текущий кризис координации . В конечном итоге, поиск ответов на вопросы об ИИ и будущем — это способ самого разума понять свою природу и найти путь из «энтропийной бездны», о которой шла речь в предыдущих главах.
🧠 Сновидения разума и границы воплощенного интеллекта 2:05:42
Математика сна: зачем ИИ нужны «галлюцинации» 2:06:58
В идеальной когнитивной системе каждое состояние модели должно соответствовать потенциальному состоянию реального мира. Однако человеческий разум достигает этого соответствия не сразу. Йоша Бах (Joscha Bach) указывает на то, что важную роль в этом процессе играют сновидения. С возрастом наши сны становятся всё более «скучными», и это — признак прогресса обучения: мы инкорпорируем всё больше ограничений (физических и социальных), которые диктует реальность . Если в детстве нам часто снится полет, то это может быть результатом попыток мозга воссоздать знакомые объекты с новых ракурсов, включая вид сверху .
С точки зрения ИИ, сновидения можно рассматривать как работу генеративно-состязательной сети (GAN). Система генерирует альтернативные сценарии на основе усвоенных ограничений, чтобы проверить модель мира на прочность и непротиворечивость . Весь наш процесс восприятия — это своего рода «контролируемая галлюцинация» . Мы постоянно запускаем симуляции, которые должны совпадать с входящими сенсорными данными. Когда мы идем и не падаем, мозг использует нейронные осцилляторы, которые подстраиваются под динамику тела, создавая изоморфную модель физического взаимодействия .
Лекс Фридман (Lex Fridman) отмечает, что для простой ходьбы требуется колоссальная база знаний, которую часто называют «здравым смыслом» (common sense reasoning). Йоша, однако, более скептичен в оценке сложности этого процесса. Он предполагает, что за всю жизнь человек формирует около миллиона концептов — по два новых понятия каждые полчаса . Это не так много, как кажется, учитывая вычислительные мощности современных систем. Основная часть работы нашего мозга (около 80%) — это работа «физического движка», симуляция реальности в реальном времени, подобная графическому движку видеоигры .
Воплощение интеллекта: тело как интерфейс, а не необходимость 2:15:50
Существует популярная гипотеза, что сильный искусственный интеллект (AGI) невозможен без физического тела. Йоша Бах оспаривает эту необходимость. Хотя наличие тела позволяет проводить контролируемые эксперименты и сокращать неопределенность в моделях за счет активного взаимодействия (например, просто повернув голову, чтобы рассмотреть объект), это лишь вопрос эффективности сбора данных . Если у ИИ будет доступ ко всему объему данных YouTube и достаточно времени на их обработку, он сможет извлечь необходимые физические закономерности и без личного присутствия в материальном мире .
Йоша предлагает иерархию уровней воплощения (embodiment):
- Нулевой порядок: прямое ощущение принятия решения;
- Первый порядок: ментальные операторы (мысли), которые мы наблюдаем и можем изменять;
- Второй порядок: биологическое тело и инструменты, которыми мы управляем косвенно .
Для формирования интеллекта критически важно не наличие белкового тела, а наличие среды, которая оказывает сопротивление. Интеллект развивается там, где нужно преодолевать препятствия для достижения целей. В этом смысле математика — это уже полноценная среда . Математические структуры сопротивляются произвольным интерпретациям, и попытки «навигации» в них могут породить общий интеллект, пусть он и будет радикально отличаться от человеческого.
Даже социальное взаимодействие, которое кажется нам невероятно сложным, часто опирается на биологические пресеты (priors), существующие у всех социальных животных. Бах иронично замечает, что собаки и кошки часто обладают лучшим социальным когнитивным аппаратом, чем дети, а «нарды» (nerds) испытывают трудности в общении лишь потому, что их внутренние «провода» перепутаны и им приходится использовать интеллект там, где другие используют инстинкты .
Нейроинтерфейсы и бутылочное горлышко мысли 2:23:04
Обсуждая идеи Илона Маска о Neuralink, Йоша Бах переводит дискуссию из плоскости инженерных фантазий в плоскость регуляции и биологических ограничений. Он сомневается, что в текущей правовой системе FDA позволит массово сверлить отверстия в черепах здоровых людей для «развлекательных» целей . Однако, помимо юридических барьеров, существует и фундаментальная проблема пропускной способности.
Хотя наши компьютеры работают на порядки быстрее нейронов, «пропускная способность» человеческого разума ограничена скоростью продуктивного мышления . Мы считаем, что думаем много, но большинство наших мыслей повторяются, так как они направлены на решение одних и тех же повседневных задач, вроде поддержания равновесия при ходьбе .
Лекс Фридман предполагает, что прямой доступ к огромным массивам информации (например, ко всей Википедии через нейроинтерфейс) мог бы избавить нас от цикличного мышления и привести к интеллектуальным прорывам. Йоша отвечает на это через призму истории идей. Он приводит в пример Томаса Аквинского, который фактически создавал «операционную систему» для католического общества, переводя Аристотеля . Аквинский выделял рациональные принципы — пруденцию (мудрость), справедливость, умеренность и мужество — как алгоритмы саморегуляции и социального взаимодействия . Эти принципы не требуют вживленных чипов; они работают как «софт», который позволяет биологическому агенту эффективно функционировать в сложной среде. Ранее в разговоре они уже касались природы идентичности как программного состояния, и идеи Аквинского лишь подтверждают, что разум всегда искал способы формализации своего взаимодействия с реальностью.
🏛️ Государственные системы как алгоритмы и эмоции как внутренний код 2:30:50
Рассматривая разум как вычислительную систему, Йоша Бах (Joscha Bach) неизбежно переходит к анализу более крупных структур — человеческих обществ и государств. Ранее в разговоре Лекс Фридман (Lex Fridman) и Бах уже касались природы истины и вычислительного мировоззрения, но здесь дискуссия смещается в сторону институционального выживания и того, как наши внутренние аффекты диктуют правила социального взаимодействия.
Оптимальные формы правления и институциональная преемственность 2:30:50
Йоша Бах утверждает, что мы не столько племенной вид, сколько вид, строящий государства. То, что мы называем цивилизацией, требует приверженности высшим структурным принципам — своего рода «глобальной функции вознаграждения», которую Бах ассоциирует с понятием любви как преданности общей цели .
Обсуждая оптимальные формы правления, Бах подвергает деконструкции западную демократию. С его точки зрения, демократия в её нынешнем виде — это «власть олигархов», владельцев средств производства . Однако её преимущество не в мифическом «народовластии», а в наличии стабильных институтов, которые обеспечивают преемственность. Эти институты управляются не выборными лицами, а бюрократическим слоем («deep state» в нейтральном смысле), что позволяет адаптироваться к изменениям, не прибегая к насилию.
В этой системе политики — лишь сменяемые фигуры. Если правительство становится коррумпированным или неэффективным, его можно заменить, сохранив инфраструктуру выживания. Бах противопоставляет это российскому контексту: если в системе нет «плана Б» (институциональной глубины), любая неудобная правда, вскрытая журналистом, становится экзистенциальной угрозой, и «журналист должен умереть» .
Особое внимание уделяется американской модели, которую Бах характеризует как «общество читеров» (society of cheaters):
- В США обман или нарушение правил часто неотличимы от инноваций, и это поощряется .
- Социальная мобильность — результат индивидуальных инноваций, которые могут быть неустойчивы в масштабах всей системы .
- Система оптимизирована не под стабильность, а под инновационный прорыв, что неизбежно создаёт слой «токсичного шлама» — побочных эффектов этого процесса .
В конечном итоге правительство — это не просто проявление власти, а платформа для ведения переговоров об условиях выживания человечества в условиях сложности .
Эмоции как интерфейс связи между частями разума 2:37:39
Переходя от макроструктур к микроструктурам сознания, Бах предлагает вычислительную теорию эмоций. Он разделяет «эмоцию» и «чувство». Эмоция — это конфигурация когнитивной системы, набор параметров модуляции: уровень возбуждения, валентность (позитивная или негативная), фокус внимания .
По мнению Баха, эмоции выполняют роль интерфейса:
- Несимволическая коммуникация: Подсознательные, нейросетевые части мозга оценивают ситуацию. Поскольку они не могут напрямую «говорить» с символическим (логическим) сознанием, они используют «чит-код» — проецируют свои оценки на карту тела .
- Геометрия чувств: Тревога ощущается как сжатие в солнечном сплетении, а чувство связи с людьми — как расширение в области груди . Это не физические процессы в органах, а способ, которым разум кодирует значимость событий в пространстве внутренней карты тела.
- Мотивационная иерархия: Мы действуем не на основе самих потребностей, а на основе моделей потребностей. Организм стремится к гомеостазу, и чувства — это оценки того, насколько успешно мы достигаем целей или избегаем боли .
Культурные различия в выражении аффекта 2:41:46
Эмоциональные интерфейсы не универсальны в своих внешних проявлениях. Лекс Фридман, будучи выходцем из русской культуры, отмечает свою склонность к стоическому выражению лица, что в США часто интерпретируется как скука или недовольство . Бах объясняет это фундаментальным различием в культурных протоколах.
В американской традиции принято демонстрировать гипертрофированный позитивный аффект. Бах приводит в пример ироничную шкалу: в США всё, что выше нижних 10%, оценивается как «amazing» (потрясающе), в то время как в восточноевропейской традиции всё, что ниже верхних 10%, — это «плохо», а сама вершина — «нормально» .
Основные черты восточноевропейского/российского подхода к эмоциям по Баху:
- Табу на беспричинную радость: Постоянная улыбка без веской причины воспринимается как признак глупости или неискушённости .
- Признание страдания: Жизнь воспринимается как череда страданий с редкими моментами красоты . Игнорировать реальность страдания в своём выражении лица — значит демонстрировать непонимание устройства мира.
- Трагизм нарратива: Бах иллюстрирует это эволюцией сказки о Русалочке. Оригинальные версии (Ундина) заканчиваются трагически («поцеловала его до смерти»), версия Андерсена — жертвенной гибелью, и только американская версия Disney предлагает счастливый финал .
Бах заключает, что страдание — это результат заботы о вещах, которые мы не можем изменить . Счастье же — это «печенье», которое мозг печёт для себя сам. Опасность заключается в том, что, научившись произвольно генерировать это «печенье» (через медитацию или химию), человек сталкивается с ещё более глубоким кризисом смысла, который невозможно решить простым получением удовольствия .
🧬 Смысл жизни и деконструкция Бога: Конец игры для человечества 2:55:56
Завершая масштабную беседу, Йоша Бах и Лекс Фридман переходят к фундаментальным вопросам теологии и экзистенциального смысла, рассматривая их через призму когнитивистики и теории систем. Для Баха традиционные религиозные сюжеты и философские концепции «перводвигателя» — это не просто мифология, а зашифрованные описания того, как разум структурирует реальность и как сложные системы сопротивляются энтропии.
Библейское «Бытие» как модель когнитивного развития 2:56:11
Йоша Бах предлагает радикальную интерпретацию библейского сюжета о сотворении мира, видя в нём не хронологию физического возникновения Вселенной, а метафору формирования сознания ребёнка. С точки зрения когнитивной науки, мир для новорождённого изначально не структурирован; это хаотичный поток сигналов, из которого разум должен «создать» объекты.
Этот процесс проходит через строго определённые этапы:
- Разделение света и тьмы: Первичная дифференциация визуальных сигналов, когда мозг начинает различать базовые градиенты.
- Отделение неба от земли: Определение направлений в пространстве и формирование основ пространственного ориентирования .
- Создание растений и животных: Группировка паттернов на сетчатке глаза в устойчивые категории живых существ.
- Дарование имен: Финальный этап когнитивного созревания — лингвистическая категоризация, позволяющая разуму манипулировать абстрактными символами объектов .
Бах подчеркивает, что этот творческий процесс происходит в каждом разуме индивидуально, так как окружающие нас структуры не даны нам в готовом виде — мозг обязан «изобрести» их, чтобы интерпретировать реальность. Ранее в разговоре они касались темы разума как симуляции, и здесь эта мысль достигает апогея: «Бог» в контексте Бытия — это имя для процесса архитектурного построения мира внутри сознания.
Бог как «Перводвигатель» и вычислительный автомат 2:57:02
Разбирая католическую и аристотелевскую традиции, Йоша Бах критикует отождествление «Бога-Творца» с источником жизненного смысла. Он обращается к концепции «перводвигателя» (prime mover), который в простейшем понимании является «автоматом», запустившим Вселенную .
Для Баха существование такого первоначального импульса — это чисто вычислительная необходимость. Если Вселенная меняется, должен существовать некий вычислительный принцип, способный производить изменения в информации . Однако этот «перводвигатель» или «админ сервера», на котором запущена наша реальность, не обладает магической силой наделять нашу жизнь смыслом. Йоша использует ироничную аналогию: если бы наш мир был запущен на сервере некого «супер-нёрда», это не создало бы между нами и этим программистом никакой сакральной связи . Смысл — это продукт внутренней архитектуры разума, а не внешняя директива создателя.
Цивилизация как высшее существо и «Платонический идеал» 2:58:10
По мнению Баха, то, что люди исторически воспринимали как «высшее существо», на самом деле является цивилизацией. Он проводит прямую аналогию: отдельный человек относится к цивилизации так же, как биологическая клетка относится к телу . Мы эволюционировали, чтобы организовываться в эти сверхструктуры, и наше ощущение «Бога» — это интуитивное восприятие коллективного разума и культуры.
Христианский Бог в своей естественной форме, «если его раздеть», оказывается Платонической формой цивилизации . Это идеализированный образ системы, к которому человек пытается приблизиться. Бах утверждает, что когда мы действуем не из личных корыстных интересов, а исходя из того, что считаем «правильным» (исходя из морали), мы фактически ориентируемся на этот Платонический идеал социального устройства . Это и есть «дух» системы, направляющий её элементы к сохранению целостности.
Негэнтропия и «последний уровень» человечества 2:49:49
Глубинный смысл существования жизни, согласно Йоше Баху, кроется в физике и термодинамике. Биологическая жизнь — это уникальный способ Вселенной создавать сложность для поглощения градиентов энергии, которые в противном случае остались бы недоступными. Жизнь борется с энтропией, создавая островки порядка — негэнтропию.
В финале беседы Бах предлагает метафору компьютерной игры, чтобы описать текущее состояние человеческой цивилизации:
- Лучший уровень: Мы живем в эпоху максимальной сложности и возможностей познания .
- Последний уровень: Эта сложность достигается на фоне «умирающего мира», где ресурсы истощаются, а энтропийное давление нарастает .
Несмотря на экзистенциальные вызовы, Бах сохраняет интеллектуальный оптимизм. Он напоминает, что даже в условиях сложности и неопределенности наш мозг сохраняет способность к саморегуляции: «Счастье — это печенье, которое мозг испекает для самого себя» . В этом вычислительном мире смысл не даруется свыше, а генерируется внутри системы как инструмент для дальнейшего развития и понимания природы реальности.
