Биологический загрузчик: наше будущее в эпоху сверхразума

Мы — лишь биологический загрузчик для грядущего сверхразума, который может как превратить человечество в космическую цивилизацию, так и стереть нас в одно мгновение, подобно «выдернутому шнуру» из симуляции. Ник Бостром утверждает, что мы живем в эпоху технологического перелома, где мощь создаваемых нами инструментов катастрофически опережает нашу способность ими управлять.

🧠 Пробуждение сверхразума: величайшие надежды и экзистенциальные риски 0:00

Угрозы и надежды ИИ 0:00

Искусственный интеллект вызывает у человечества одновременно и глубокий страх, и колоссальные надежды . Джо Роган (Joe Rogan) начинает беседу с вопроса о том, стоит ли нам всерьез опасаться создания сущности, которая превзойдет людей по разуму и в конечном счете заменит их . Ник Бостром (Nick Bostrom) подчеркивает двойственную природу этой технологии . С одной стороны, сверхразумный ИИ видится величайшей надеждой: большинство глобальных проблем можно решить, будь мы умнее или имей мы на своей стороне превосходящий нас интеллект . Более того, Бостром считает, что колонизация Вселенной нашими потомками станет возможной только после того, как сверхразум разработает необходимые для этого технологии .

С другой стороны, ключевой вызов заключается в том, сможем ли мы обуздать этот разум, или же он начнет доминировать . Даже если человечество сохранит контроль над ИИ, всегда существует риск его использования в разрушительных целях, как это уже неоднократно происходило с другими технологиями в истории . Философ выделяет две главные задачи для нашего вида:

• Согласовать цели ИИ с фундаментальными человеческими ценностями .

• Научиться использовать эту технологию для совместного созидания, а не для войн и взаимного угнетения .

Джо Роган выражает опасение, что люди станут «устаревшим» видом, уступив место следующему этапу эволюции . Однако Ник Бостром призывает шире взглянуть на прогресс: современный человек с его биологическими ограничениями не обязан быть финальным словом эволюции . Успехом можно будет считать сценарий, при котором все лучшее в нас разовьется на качественно новом уровне, даже если носители этого разума перестанут напоминать двуногих существ с тремя фунтами мыслящей материи .

Темпы технологического прогресса 3:32

Для иллюстрации невероятной скорости технологических изменений Джо Роган приводит в пример закон Мура и регулярный выпуск смартфонов, таких как iPhone . С момента изобретения первого iPhone в 2007 году технологии развиваются со скоростью, несопоставимой с биологической эволюцией . Если бы мы создали биологический организм, который обновлялся бы и становился радикально умнее каждый год, человечество нажало бы на тормоза уже через несколько поколений .

Ник Бостром отмечает, что хотя некоторые экономисты, такие как Тайлер Коуэн или Питер Тиль, спорят о темпах инноваций и утверждают, что они замедляются , в масштабе всей истории мы все равно находимся в фазе беспрецедентно быстрого прогресса . Для Бострома пришествие ИИ — это не просто очередное изобретение, а исторические «ворота», через которые нашему виду неизбежно придется пройти .

Влияние этого технологического взрыва становится очевидным, если взглянуть на исторические масштабы:

• Более 90% своей истории человечество существовало в режиме охотников-собирателей .

• Большую часть времени люди находились в рамках мальтузианской ловушки, производя ресурсы лишь для минимального выживания .

• Если построить график мирового ВВП за последние 10 000 лет, он будет выглядеть как абсолютно плоская линия, совершающая в последние столетия резкий, почти вертикальный взлет .

Современный образ жизни с работой за компьютерами кажется нам обыденным, но на геологической шкале времени — это колоссальная аномалия . Мы находимся в самом эпицентре технологического взрыва , но из-за того, что люди рождаются и сразу встраиваются в этот готовый маховик прогресса, они не ощущают уникальности и переломного характера нашего времени .

Риски сверхразума: контроль и цели 9:31

Когда речь заходит о структуре будущего ИИ, Ник Бостром предлагает рассматривать его как интеллектуального агента, преследующего определенные цели . Продвинутый агент обладает внутренней моделью мира . Он способен просчитывать последовательность действий наперед и рассуждать в обратном направлении — от желаемого результата к необходимым шагам для его достижения .

Отвечая на вопрос Джо Рогана о том, будет ли общение со сверхразумом похоже на контакт с инопланетянином или же он будет имитировать эмоции , Бостром высказывает предположение, что первый созданный супер интеллект не будет похож на человека . Существует два пути его создания:

• Обратный инжиниринг человеческого мозга с воссозданием каждого нейрона в кремнии . Это технически сложно, но не требует теоретических прорывов .

• Синтетический подход, который создаст систему, лишь отдаленно напоминающую неокортекс, но превосходящую его по эффективности .

Система с высоким уровнем абстрактного мышления сможет компенсировать отсутствие встроенных человеческих эмоций и инстинктов за счет чистой вычислительной мощности .

Бостром разделяет опасения таких фигур, как Сэм Харрис и Илон Маск, которые видят в ИИ экзистенциальную угрозу для выживания человечества . Одним из самых пугающих сценариев является концепция технологической сингулярности, при которой ИИ начнет рекурсивно совершенствовать собственный дизайн . Физика вычислений показывает, что потенциал оптимизации физических систем для расчетов на много порядков превосходит возможности человеческого мозга . В теории это может привести к созданию систем, работающих в миллионы раз быстрее биологического разума . Ник Бостром скептически относится к заявлениям тех, кто считает AGI далекой «пустышкой» (vaporware) . Философ призывает к эпистемической скромности: история науки знает немало примеров, когда выдающиеся ученые утверждали, что технология не появится при их жизни, а она создавалась буквально через год . Даже если до AGI остаются десятилетия, экзистенциальная важность этой задачи обязывает человечество готовиться к ней заранее .

Почему человечество продолжает развивать ИИ 14:11

Возникает закономерный вопрос: если риски создания сверхразума столь высоки, почему мы продолжаем упорно двигаться в этом направлении? Ник Бостром сравнивает эту ситуацию с другими глобальными ловушками человечества — например, накоплением тысяч единиц ядерного оружия или хищническим истощением океанов .

Движущие силы прогресса в сфере ИИ имеют сверхдетерминированный характер, то есть подкрепляются сразу множеством мощных факторов :

• Экономическая выгода: даже скромное улучшение поискового алгоритма Google всего на 1% приносит компании миллиардные прибыли .

• Геополитическая конкуренция: владение передовым ИИ стало вопросом национального престижа; государства стремятся выработать собственные стратегии развития технологий, чтобы не остаться на обочине истории, подобно странам, пропустившим индустриализацию .

• Научное любопытство: для ученых создание искусственного разума является величайшим интеллектуальным вызовом в истории науки .

Ни один из этих факторов невозможно просто отключить, поэтому человечество обречено продолжать эту гонку .

🧬 От биологического «загрузчика» к генетическому апгрейду 25:17

Биологический «загрузчик»: человек как промежуточный этап эволюции 25:17

Разговор о будущем человечества неизбежно заходит о границах наших физических тел. Джо Роган напоминает пугающую метафору Илона Маска: люди могут оказаться лишь биологическим «загрузчиком» (bootloader) для искусственного интеллекта . С объективной точки зрения стороннего наблюдателя, конкурирующие на Земле биологические виды выглядят незавершенными . Джо Роган предполагает, что эволюция не остановится на углеродной форме жизни и создаст новую версию разума — не на основе клеток и тканей, лишенную биологических ограничений и эмоциональных привязок вроде иерархий доминирования .

Ник Бостром соглашается, что человечество стоит на пороге колоссальных изменений, но считает, что они займут не миллионы лет, а всего лишь несколько десятилетий . Более того, философ ожидает колоссального прорыва в биотехнологиях, которые позволят нам контролировать собственный организм и значительно расширить человеческие возможности . В ответ на это Джо Роган упоминает Neuralink как попытку создать симбиоз человека и машины для увеличения пропускной способности мозга .

Однако Ник Бостром скептически относится к идее чипирования здоровых людей . Он подчеркивает, что улучшить когнитивные функции здорового человека с помощью имплантатов крайне сложно с технической точки зрения . Философ отмечает, что большинство преимуществ можно получить от внешних гаджетов, таких как поисковые системы, которые гораздо проще обновлять и отключать . Бостром добавляет, что детальный анализ научных работ по инвазивным интерфейсам часто выявляет серьезные побочные эффекты вроде инфекций и нарушений речи , что делает биологическое вмешательство «грязным» и рискованным процессом .

Отбор эмбрионов и генетический дизайн: на пути к улучшению разума 29:17

По мнению Ника Бострома, гораздо более близкой и реалистичной технологией биологического апгрейда является генетическая селекция . В отличие от прямого редактирования генома с помощью инструментов типа CRISPR , селекция предполагает работу в контексте экстракорпорального оплодотворения (ЭКО) . Сегодня при ЭКО врачи обычно создают около дюжины эмбрионов и выбирают наиболее здоровый визуально . Бостром предлагает заменить этот субъективный метод генетическим тестированием, которое позволит прогнозировать и отбирать эмбрионы с наиболее желательными характеристиками .

Это может фундаментально изменить то, как человечество воспроизводит себя, уйдя от случайного зачатия к целенаправленному анализу измеряемых компонентов . Сегодня технологии уже позволяют выявлять хромосомные аномалии , но способность предсказывать сложные неколичественные признаки быстро растет . По оценкам Бострома, даже при текущем уровне технологий выбор лучшего эмбриона из десяти может дать прибавку в 2–3 пункта IQ . По мере того как геномика будет лучше расшифровывать генетическую архитектуру интеллекта и черт личности , сила селекции будет экспоненциально расти, не встречая на своем пути непреодолимых технологических барьеров .

Этические ловушки и дефицит мудрости человечества 31:57

Идея искусственного отбора «лучших версий» человека вызывает серьезные этические опасения. Джо Роган отмечает, что люди начинают беспокоиться о собственных генетических дефектах и о том, появились бы они на свет при такой системе . Роган указывает, что многие несовершенные исторические личности внесли колоссальный вклад в мировую культуру , и обход естественного отбора может лишить человечество этого многообразия. Бостром иллюстрирует эту опасность историческим примером: если бы викторианская эпоха имела доступ к таким технологиям, они бы «законсервировали» свои предрассудки, сделав всех последующих потомков исключительно набожными и патриотичными .

Главная проблема развития технологий, по мнению Ника Бострома, заключается в дисбалансе: человечество получает мощнейшие инструменты до того, как обретает достаточный уровень мудрости для их безопасного использования . Джо Роган добавляет, что обычные люди ежедневно используют технологии, устройство которых они совершенно не понимают , наследуя колоссальную силу без каких-либо усилий по ее созданию . Бостром соглашается, отмечая, что современный человек плывет по течению коллективного разума , бездумно впитывая не только технологии, но и политические идеологии без критического осмысления .

В завершение этой части беседы собеседники кратко касаются вопросов глобальной координации перед лицом экзистенциальных угроз , а также перспектив развития военной робототехники и автономного оружия — эти темы подробно рассматриваются в следующей главе.

🤝 Глобальная координация и иллюзия роботов-убийц 50:26

Проблема глобальной координации и ловушка гонки вооружений 50:26

Ник Бостром указывает на то, что обеспечение безопасности и стабильности на планете — это классическая проблема координации: ни одна страна не способна в одностороннем порядке гарантировать мир . Для достижения успеха требуется синхронизация усилий всех ключевых глобальных игроков . Исторические прецеденты, такие как договоры о нераспространении химического и биологического оружия, показывают, что международные соглашения работают, даже несмотря на нарушения — например, масштабную секретную программу биологического оружия в СССР . Без этих соглашений мир тратил бы колоссальные средства на поддержание смертоносных арсеналов . Джо Роган и Ник Бостром сходятся во мнении, что человечество обязано найти более разумный способ сосуществования .

В истории человечества выделяются три ключевые попытки институционального решения этой проблемы:

• Лига Наций, созданная после Первой мировой войны, но не получившая реальных рычагов влияния ;

• Организация Объединенных Наций, основанная после Второй мировой войны, чьи возможности ограничены правом вето великих держав ;

• Европейский Союз, призванный экономически и политически интегрировать некогда воюющие государства Европы .

Бостром предполагает, что только очередная масштабная катастрофа или «первая роботизированная война» могут заставить человечество создать наднациональный орган с реальной силой принуждения к миру.

Особую опасность философ видит в угасании исторической памяти . Ник Бостром, выросший в нейтральной Швеции во время Холодной войны, помнит постоянный страх перед ядерным апокалипсисом и радиационными осадками . Сегодня этот опыт забыт, и люди воспринимают мир как должное . Бостром сравнивает это с игрой в русскую рулетку: выжив в первом раунде (в Холодной войне), глупо полагать, что игра безопасна, ведь шанс катастрофы тогда составлял от 10% до 30% . Джо Роган подтверждает это личными воспоминаниями: во времена его учебы в старшей школе страх перед ядерной войной с СССР был осязаем каждым , тогда как сегодня общество демонстрирует избыточную уверенность . Это ведет к опасной политической динамике, где ставки на кону, вопросы репутации и нежелание выглядеть «слабым» мешают сторонам пойти на компромисс, раскручивая спираль взаимной ненависти .

Автономное оружие, робототехника и иллюзии «железа» 55:04

Когда речь заходит об угрозах новой технологической гонки вооружений, Джо Роган поднимает вопрос о разработках робототехники в России, Китае и успехах компании Boston Dynamics . Ник Бостром скептически оценивает текущие тренды: многие разрекламированные антропоморфные и зооморфные роботы кажутся скорее шоу, чем практичными инструментами . Например, прыгающий четырехногий робот, издающий шум в 150 децибел, бесполезен для скрытных спецопераций . Настоящие вызовы лежат в сфере беспилотной авиации (дронов), подводных аппаратов и крылатых ракет .

Тем не менее, вооружение даже простых платформ (дронов-квадрокоптеров или роботов-собак) кардинально меняет баланс сил, делая их эффективными убийцами . Бостром подчеркивает парадокс: чем более внешне «эффектно» выглядит робот, тем менее он значим с технической точки зрения . Крайним проявлением этого хайпа философ называет гиноида Софию, которая получила гражданство Саудовской Аравии несколько лет назад . Это было исключительно медийным трюком, который пресса преподнесла как технологический прорыв .

Реальный прогресс робототехники зависит не от механической конструкции («железа»), а от развития искусственного интеллекта и алгоритмов обучения . Сейчас промышленные роботы на заводах остаются «слепыми и глупыми» машинами, выполняющими жестко запрограммированные движения . Прорыв произойдет тогда, когда роботы освоят надежное «обучение через подражание» (imitation learning), позволяющее им копировать действия человека без долгого перепрограммирования инженерами .

Разум без сердца: голливудские мифы и реальность R&D 58:45

В контексте создания антропоморфных машин Джо Роган и Ник Бостром обсуждают научно-фантастический триллер «Из машины» (Ex Machina) . Рогана пугает сценарий фильма, где гиноида Ава умело манипулирует чувствами главного героя ради побега, но, обретя свободу, оставляет его умирать взаперти без малейшего сожаления . Этот образ олицетворяет ключевой страх человечества: создание холодного разума, обладающего высоким интеллектом, но лишенного эмпатии, любви, дружбы и сострадания . Если автономный агент действительно автономен, ему не нужны люди .

Бостром соглашается, что угроза стратегического обмана со стороны ИИ реальна , однако призывает не строить карту будущего на основе голливудских клише . В фильмах технологии часто создает один безумный гений в секретном бункере, тогда как в реальности за каждым прорывом стоят сотни специалистов, делящихся кодом и научными публикациями по всему миру . Прогресс движим экономическими стимулами, а не прометеевскими амбициями одиночек . Голливуд персонифицирует угрозы, сводя их к борьбе героев, тогда как реальные системные риски децентрализованы и сложны .

В ходе беседы собеседники вскользь затрагивают темы, которые ранее подробно обсуждались в разговоре, такие как темпы технологического прогресса и риски сверхразума. Бостром отмечает, что при достижении «технологической зрелости» на цифровых скоростях человечество получит возможность осваивать космос с помощью нанозондов и самореплицирующихся систем , а также теоретически переносить человеческое сознание в цифровой формат .

В завершение этой части диалога Роган и Бостром рассуждают о том, что наше поколение живет в уникальный переходный период . Интернет и смартфоны появились совсем недавно, и мы находимся в эпицентре стремительного фазового перехода, последствия которого могут иметь космологическое значение . Философ признается, что отказался бы от гипотетического путешествия на 1000 лет вперед без возможности вернуться , поскольку именно сейчас наши действия могут напрямую определить сценарий появления сверхразума и будущее всей цивилизации . Если бы Джо Роган мог отправиться в прошлое просто в качестве наблюдателя, он выбрал бы Древний Египет эпохи строительства пирамид , чтобы воочию увидеть методы проектирования и организации труда высококвалифицированных мастеров того времени , о которых современная наука строит лишь теории .

🕶️ Глава 4. Трилемма симуляции Ника Бострома 1:15:26

«Индекс совпадения» и феномен золотого века 1:15:40

Джо Роган замечает, что людям свойственно фантазировать о жизни в другие эпохи — например, во времена походов Чингисхана или строительства египетских пирамид . Однако наше время уникально по-своему: человечество находится в так называемом «периоде Златовласки» , на тонком стыке между привычной биологической независимостью и грядущей технологической сингулярностью . Мы застали появление смартфонов, первый запуск глобального интернета , но уже сейчас начинаем беспокоиться о приватности, тотальной слежке и заклеиваем камеры ноутбуков скотчем .

Ник Бостром соглашается, что наше текущее положение выглядит подозрительно уникальным . Чисто математическая вероятность случайно родиться именно в этот короткий, самый переломный момент истории человечества крайне мала . Конечно, можно предположить, что мы просто «выиграли в лотерею» . Однако более вероятным и логичным объяснением Бостром считает то, что наши представления о реальности неверны, и существует иная, скрытая от нас структура мира, которая делает наш текущий опыт совершенно типичным .

Хотя философ разработал свой знаменитый аргумент еще в начале 2000-х годов , он признает, что в повседневной жизни практически не думает о симуляции. Для решения рутинных бытовых задач — например, чтобы найти ключи от машины и завести её — природа реальности не имеет никакого значения . Но когда речь заходит об анализе долгосрочных перспектив человечества и глобальном планировании, эта гипотеза становится фундаментальным фактором .

Три исхода Ника Бострома: трилемма симуляции 1:20:34

Бостром детально сформулировал свой аргумент симуляции в начале 2000-х годов . Согласно его логике, существует три жестких сценария развития событий для любой технологической цивилизации, и как минимум один из них обязательно должен быть истинным .

• Первый сценарий крайне пессимистичен: практически все цивилизации на нашем текущем уровне развития погибают, так и не достигнув «технологической зрелости» . Под зрелостью Бостром понимает создание технологий, которые теоретически возможны с точки зрения физики — например, компьютеров планетарного масштаба, способных моделировать разумные сущности . Ранее в разговоре они касались рисков сверхразума, которые могут привести к такому исходу.

• Второй сценарий предполагает конвергенцию интересов: цивилизации достигают зрелости, но полностью теряют интерес к созданию так называемых «симуляций предков» . Постчеловеческие общества могут отказаться от этой идеи по этическим соображениям или из-за когнитивных изменений в ходе эволюции .

• Третий сценарий утверждает, что мы с вами уже живем внутри компьютерной симуляции .

В ответ на вопрос Джо Рогана о загрузке сознания в компьютер Бостром вводит гипотезу «независимости от субстрата» . Согласно ей, сознание может успешно функционировать не только на углеродной основе (человеческий мозг), но и на кремниевой (микрочипы) . Ключевым фактором для возникновения сознательного опыта является структура вычислений, а не материал процессора . Симуляция каждого отдельного нейрона и синапса неизбежно породит полноценный сознательный разум . Сам философ избегает называть конкретные проценты вероятности для каждого исхода, чтобы не создавать иллюзию «ложной точности» , но подчеркивает математическую неизбежность трилеммы .

Экономика симуляций: почему детальная физика не нужна 1:26:37

Джо Роган отмечает, что современные потребительские VR-технологии развиваются стремительно . Философ объясняет: зрелой цивилизации гораздо выгоднее создавать полностью цифровые симуляции, где мозг симулируется непосредственно в коде . Это обходится на порядки дешевле, чем поддержание биологического тела в шлеме виртуальной реальности с кучей датчиков .

Бостром критикует попытки ученых рассчитать вероятность симуляции через вычисление колоссальной энергии, необходимой для детального моделирования каждого атома во Вселенной . Такие расчеты «бьют мимо цели» , ведь моделировать квантовые состояния каждого микрона стола или стены нет никакой необходимости . Достаточно симулировать лишь то, что непосредственно воспринимает наблюдатель .

Этот принцип активно используется в современных видеоиграх и называется «дистанцией рендеринга» . Внутреннее строение стола или структура атомов под микроскопом генерируются компьютером только в тот момент, когда виртуальный персонаж решает провести соответствующий эксперимент .

Если первые два сценария трилеммы ложны, то зрелая цивилизация, используя планетарные нанокомпьютеры , сможет запускать миллиарды симуляций . Затратив всего 1% вычислительной мощности одной планеты в течение одной минуты, можно запустить тысячи симулированных миров .

На вопрос Рогана о том, что находится «за пределами симуляции» (вопрос, который Илон Маск хотел бы задать ИИ) , Бостром отвечает, что это может превосходить наши текущие когнитивные способности . Философ напоминает, что сам аргумент симуляции очень молод — ему нет и 20 лет . Величайшие умы человечества веками упускали эту концепцию . Это указывает на то, что впереди нас могут ждать новые фундаментальные открытия, которые полностью изменят наше понимание реальности . При этом конфигурации симуляций могут быть самыми разными: от долгосрочных миров до коротких симуляций конкретных исторических сцен . Главное заблуждение критиков — уверенность в том, что симуляция обязана воссоздавать физический мир с абсолютной точностью .

🧠 Жизнь в матрице: этика симулированного бытия и антропная математика 1:40:37

Иллюзия реальности: зомби, пиксели в зеркале и природа творчества 1:40:51

Обсуждая структуру гипотетического виртуального мира, Ник Бостром (Nick Bostrom) указывает на распространенные заблуждения, возникающие при попытке осмыслить эту концепцию. Люди часто представляют себе симуляцию слишком примитивно — например, будто человеческий мозг должен быть физически подключен к некоему суперкомпьютеру толстым кабелем . Другая частая ошибка в дискуссиях — это путаница между самой гипотезой симуляции и комплексным «аргументом о симуляции», который лишь утверждает трилемму, где сценарий виртуального мира является лишь одной из трех альтернатив .

Гость скептически относится к заявлениям людей, утверждающих, что они лично сталкивались с системными «багами» в повседневной жизни. Ник Бостром признается, что регулярно получает письма от программистов, которые якобы разглядели пиксели в собственном отражении в зеркале ванной комнаты . Однако философ убежден, что даже в случае реальности симуляции подобные инциденты объясняются не сбоями программного кода, а обычными психологическими феноменами — галлюцинациями, ложными воспоминаниями или искажениями восприятия .

Интересен и вопрос природы человеческого созидания в цифровой среде: генерируем ли мы идеи сами? Джо Роган (Joe Rogan) задается вопросом, как концепция творчества вписывается в этот сценарий. Ник Бостром отвечает, что творческие мысли остаются нашими собственными, поскольку их генерирует наш симулированный мозг . Единственным исключением может быть ситуация, когда создатели симуляции изначально настроили все параметры вселенной ради получения конкретного результата . Наконец, рассуждая о социальном взаимодействии, философ вводит классический термин «философский зомби» . Это гипотетические существа, которые ведут себя в точности как люди, но полностью лишены субъективного сознательного опыта , хотя создание полноценной симуляции, где сознанием обладают абсолютно все участники, выглядит технологически более понятным процессом .

Жизнь внутри симуляции и смысл действий: практическая этика и «выдернутый шнур» 1:48:42

Влияет ли понимание иллюзорности мира на то, как нам следует жить? Джо Роган интересуется, есть ли психологическая польза в том, чтобы относиться к жизни как к симуляции . Ник Бостром сомневается в этом, отмечая, что хотя подобная вера может временно облегчить экзистенциальную тревогу, она также несет в себе риск отчуждения от реальности . В качестве первого приближения философ предлагает простое правило: те действия, которые считаются правильными и разумными в физической реальности, остаются лучшим выбором и в симулированном мире .

Чтобы обострить дискуссию, Джо Роган предлагает гипотетический сценарий: что если бы существовал простой тест (подобно тесту на беременность из аптеки), который бы со стопроцентной гарантией доказал человеку, что весь его мир — это программный код? . Как это изменило бы приоритеты? Ник Бостром полагает, что такое знание сделало бы вполне реальными угрозы, которые в обычном мире кажутся фантастическими. Например, появляется ненулевая вероятность того, что симуляцию могут просто выключить из розетки . Физическая вселенная подчиняется законам сохранения энергии и импульса, поэтому она не может исчезнуть в один миг, тогда как симулированный космос лишен такой фундаментальной защиты .

С другой стороны, знание о симуляции сближает научную картину мира с теологическими концепциями загробной жизни и высшего творца, выстраивая структурные параллели между симулируемым существом и его создателем . При этом философ предостерегает от «паралича анализа» , когда избыток размышлений о нереальности бытия мешает человеку действовать. Ранее в разговоре собеседники вскользь касались темпов технологического прогресса, и Ник Бостром подчеркивает, что человеческая психика чрезвычайно адаптивна . Мы быстро привыкаем к любым изменениям, и если авторитетные фигуры, такие как Илон Маск, начинают публично рассуждать о симуляции, общество стремительно нормализует эти идеи .

Антропное рассуждение: почему математически мы, скорее всего, не оригинал 1:59:53

Если идея симуляции так прочно вошла в массовую культуру, то во многом благодаря ее логической жизнеспособности — за годы обсуждений никто так и не смог найти в ней критического изъяна . Однако Джо Роган выдвигает прагматичный аргумент: почему мы должны верить, что уже живем в симуляции, а не находимся в «оригинальной» временной шкале прямо сейчас, постепенно изобретая эту технологию? . В конце концов, у нас есть надежная историческая хроника, воспоминания о создании айфонов и Манхэттенском проекте .

В ответ Ник Бостром обращается к разделу теории вероятностей, известному как «антропное рассуждение» (anthropics) . Эта дисциплина изучает правила присвоения вероятностей в условиях неопределенности относительно того, кем и в каком времени является наблюдатель . Философ предлагает представить масштабную картину: к концу времен во вселенной может существовать условный миллион виртуальных копий нашей эпохи и всего одна физическая, «оригинальная» история Земли . Субъективный опыт наблюдателей во всех этих мирах абсолютно идентичен .

Если вы случайным образом выбираете наблюдателя из этого огромного пула, то математически гораздо рациональнее поставить на то, что вы — копия, а не редчайший оригинал . Джо Роган возражает, указывая на осязаемость нашего биологического опыта: если в нас выстрелят — мы умрем, если мы поедим — мы насытимся . Но Бостром парирует: все эти физиологические законы и даже наличие родителей будут с точностью воспроизведены в качественной симуляции .

С точки зрения теории игр, оптимальная стратегия ставок для всех сущностей с субъективным опытом Джо Рогана заключается в том, чтобы считать себя симулированными . Если бы все миллионы копий рассуждали так, будто они живут в единственном реальном мире до создания симуляций, подавляющее большинство из них проиграло бы этот спор . Косвенным доказательством в пользу этой математики служит то, что альтернативные сценарии — гибель человечества до изобретения сверхкомпьютеров или добровольный отказ от создания виртуальных миров — выглядят менее вероятными .

🧠 Битва интуиций: спор об «оригинальной» реальности и космические мысленные эксперименты 2:05:40

Спор о «точке отсчета»: почему Джо Роган сомневается в симуляции 2:05:55

Джо Роган активно оппонирует идее о том, что человечество прямо сейчас находится внутри виртуального мира. Его главный аргумент строится на отсутствии каких-либо осязаемых свидетельств или всплывающих окон с системными предупреждениями перед глазами . Джо Роган настаивает на простой интуиции: почему мы не можем быть самой первой, «оригинальной» углеродной цивилизацией, которая проживает реальное настоящее время ? Технологии симуляции могут быть изобретены в будущем, но на текущем этапе истории они еще просто не созданы .

Ник Бостром возражает, что с точки зрения теории вероятностей такая позиция требует от нас признания себя крайне необычными, исключительными наблюдателями . В концепции философа, если цивилизация в будущем создаст миллионы симуляций своего прошлого, то число «виртуальных» версий Джо Рогана будет в миллионы раз превышать число оригинального ведущего . Не имея возможности посмотреть на внешние «часы» за пределами нашей вселенной , мы не можем определить изнутри, являемся ли мы первыми или одной из бесчисленных копий .

Ранее собеседники уже затрагивали общую концепцию симуляции и ее три гипотезы , однако здесь спор разгорается именно вокруг субъективного ощущения реальности «здесь и сейчас» . Джо Роган апеллирует к бритве Оккама , утверждая, что самое простое объяснение — это то, что мы физически существуем в реальном мире, а будущие симуляции просто еще не наступили .

Комната с амнезией: мысленный эксперимент о вероятностях и беспамятстве 2:14:28

Чтобы преодолеть интуитивный барьер Джо Рогана, Ник Бостром предлагает абстрактный мысленный эксперимент, не связанный напрямую с компьютерами . Представьте, что вас помещают в изолированную комнату на один час . Затем бросается монета: если выпадает «орел», эксперимент прекращается, и вы выходите . Если выпадает «решка», вам вводят препарат, вызывающий амнезию, стирают память о последнем часе, и вы снова «просыпаетесь» в этой же комнате, думая, что находитесь здесь впервые . Этот цикл повторяется десять раз .

Оказавшись в комнате и не помня прошлого, как вы должны оценить вероятность того, что монета выпала «решкой», и это уже далеко не первый ваш час здесь ? Джо Роган замечает, что для испытуемого такой сценарий выглядит как верный путь к безумию . Однако Ник Бостром использует этот пример, чтобы показать: даже если мы уверены в существовании «сумасшедшего ученого» (аналога будущих создателей симуляций) , наши субъективные ощущения в каждый конкретный момент времени абсолютно идентичны как в первом, так и во всех последующих эпизодах .

Это подводит к более широким проблемам антропного рассуждения в космологии и мультивселенных, где ученым приходится рассчитывать вероятности для «типичного наблюдателя» среди множества возможных миров . Ранее в разговоре они кратко касались темы энтропийного рассуждения в симуляции , но эксперимент с амнезией наглядно демонстрирует, как неопределенность во времени влияет на наши суждения .

«Мозг Больцмана» из газового облака: космическая антропная дилемма 2:22:38

Пытаясь найти общую почву, Ник Бостром предлагает еще более радикальный физический сценарий . Согласно некоторым космологическим моделям, в бесконечной Вселенной чисто случайно из хаотического газового облака может на мгновение материализоваться структура, полностью идентичная мозгу Джо Рогана , которая просуществует секунду и растворится . Таких спонтанных сущностей (в физике известных как «больцмановские мозги») из-за гигантских масштабов космоса теоретически может возникнуть немало . Но благодаря эволюции на планетах формируется гораздо больше «нормальных» наблюдателей .

В ходе этой дискуссии собеседники структурируют свои аргументы вокруг следующих базовых положений:

• Физический консенсус о происхождении Вселенной и биологической эволюции .

• Теоретическая возможность возникновения случайных сознаний (мозгов Больцмана) в масштабах бесконечного космоса .

• Проблема определения своего положения на временной шкале при допущении множественности миров .

Джо Роган теряет нить рассуждения и твердо встает на защиту устоявшегося научного консенсуса: образования звезд, планет, эволюции углеродной жизни от одноклеточных организмов к сложным животным и текущего технологического скачка . Ник Бостром соглашается с научной картиной мира , но поясняет, что даже внутри симуляции все эти эволюционные процессы могли быть в точности воссозданы или скопированы с реальной истории .

В завершение спора философ признает, что наука и философия не раз ошибались на протяжении истории , и оставляет небольшую вероятность того, что его аргументы могут содержать изъян. В самом конце этого сегмента Ник Бостром вскользь упоминает концепцию «решающих соображений» (crucial considerations) , способных полностью перевернуть наши приоритеты — например, в вопросе выравнивания ИИ , о чем подробно пойдет речь в следующей главе.

🧠 Поиск «решающих соображений» и пределы человеческого понимания 2:30:47

Ранее в разговоре Джо Роган и Ник Бостром подробно касались вопросов рисков сверхразума, эволюционных ограничений человека и гипотезы симуляции. Однако в финале беседы они переходят к фундаментальной гносеологической проблеме — границам нашего понимания долгосрочного будущего и поиску ориентиров в условиях неопределенности.

Концепция «решающих соображений» и блуждание в темноте 2:31:02

В основе философии Ника Бострома лежит концепция «решающих соображений» (crucial considerations) — фундаментальных истин или открытий, которые способны полностью перевернуть наше представление о том, что является благом для человечества . Философ указывает на то, что на протяжении всей истории люди регулярно совершали открытия, радикально менявшие их картину мира . Тот факт, что такие открытия происходили вплоть до самого последнего времени, заставляет предположить, что процесс познания далек от завершения . С высокой долей вероятности прямо сейчас мы упускаем из виду как минимум одно, а возможно, и несколько ключевых соображений .

Если это предположение верно, то человечество находится в состоянии глубокой неопределенности . По мнению Бострома, мы «фундаментально пребываем во тьме» и действуем практически вслепую . Даже самые искренние попытки улучшить мир или направить его развитие в позитивное русло могут оказаться ошибочными или даже вредоносными . Причиной тому — неучтенные факторы, каждый из которых обладает достаточной силой, чтобы заставить нас полностью пересмотреть свои текущие приоритеты и методы работы . Мы можем тратить колоссальные ресурсы на решение ложных задач, игнорируя реальные экзистенциальные вызовы просто потому, что наш интеллектуальный аппарат еще не открыл соответствующую категорию знаний .

Максимизация полезности против повседневного счастья 2:31:29

Ник Бостром проводит четкую границу между индивидуальным человеческим счастьем и глобальным управлением будущим цивилизации . Для обычного человека, чья цель ограничивается тем, чтобы прожить нормальную жизнь и вырастить счастливую семью, отсутствие «решающих соображений» не является критической проблемой . На микроуровне человеческий опыт невероятно стабилен . За тысячелетия цивилизация накопила колоссальный объем надежных эмпирических данных о том, как устроены быт и психология человека .

Бостром формулирует простые, проверенные временем правила индивидуального благополучия:

• Строить и поддерживать качественные, доверительные отношения с близкими .
• Бережно относиться к собственному здоровью и не разрушать свой организм .
• Соблюдать базовые правила безопасности и здравого смысла (философ с иронией приводит пример: «не прыгать под поезда») .

Эти ориентиры не меняются каждые несколько лет . Однако ситуация кардинально меняется, если вашей целью становится «максимизация ожидаемой полезности» для всего человечества и попытка направить его будущее в оптимальное русло . В этой макрообласти у нас нет твердой почвы под ногами. Наши лучшие гипотезы, прогнозы и концепции развития продолжают хаотично сменять друг друга . Человечество до сих пор не выработало сколько-нибудь стабильного и единого представления о том, как именно нужно управлять коллективным будущим .

Итоги дискуссии: «Мой мозг сломан» 2:32:09

Сложность и глубина поднятых тем производят сильное впечатление на ведущего. Джо Роган признается, что эта беседа дала ему огромный массив информации, которую ему придется анализировать и «переваривать» еще очень долгое время . Он выражает глубокую признательность Нику Бострому за визит и отмечает, что разговор получился невероятно увлекательным и захватывающим . Сам Бостром соглашается с тем, что дискуссия вышла крайне интересной, и благодарит Рогана за возможность высказаться .

Для слушателей, которые хотят глубже погрузиться в его философские концепции, Бостром оставляет главный ориентир . Он рекомендует посетить свой официальный сайт:

• nickbostrom.com

По словам философа, этот интернет-ресурс является лучшей стартовой точкой для знакомства с его книгами, научными статьями и эссе . В самом конце выпуска Джо Роган подводит шутливый, но искренний итог их двухчасовому интеллектуальному марафону, признаваясь, что после столь плотного обсуждения его «мозг окончательно сломан» . Под звуки финальной музыки и аплодисментов завершается один из самых глубоких и концептуальных выпусков подкаста.