Трилемма Бострома: живем ли мы в симуляции?

Математически почти неизбежно, что мы либо обречены на вымирание до достижения технологической зрелости, либо уже являемся частью компьютерной симуляции, созданной более развитой цивилизацией. В этом разговоре философ Ник Бостром разбирает, почему наш текущий «период Златовласки» — критическая точка между биологическим прошлым и суперинтеллектуальным будущим — требует радикального пересмотра приоритетов человечества.

🚀 Великий переход: искусственный разум на пороге человеческой сингулярности 0:00

🧠 Страхи и надежды перед суперинтеллектом 0:00

Джо Роган начинает разговор с фундаментального вопроса, который пугает человечество больше всего: создаем ли мы нечто, что в конечном итоге окажется умнее нас и заменит людей как вид ? Ник Бостром отвечает, что эта технология вызывает одновременно и величайшие страхи, и величайшие надежды . По мнению философа, большинство глобальных проблем человечества можно было бы решить, если бы люди обладали гораздо более высоким интеллектом или имели на своей стороне мощного и разумного союзника . Именно суперинтеллект, если он будет создан, сделает возможными масштабные проекты будущего (в последующих главах собеседники подробнее коснутся загрузки сознания и космической экспансии) .

Главный вызов заключается в том, сможем ли мы контролировать этот разум . Существует риск его использования во вред, как это происходило со многими технологиями на протяжении истории . Бостром выделяет две ключевые задачи:

согласование ИИ с человеческими ценностями ;
способность человечества использовать технологию для сотрудничества, а не для войн или взаимного угнетения .

Джо Роган признается, что его беспокоит перспектива абсолютного биологического устаревания человека . Он сравнивает наше текущее положение с австралопитеками, подчеркивая нежелание оставаться лишь промежуточным звеном эволюции . Бостром соглашается, что человечество в его нынешнем виде не является венцом творения , но путь к дальнейшему развитию должен быть пройден так, чтобы сохранить и приумножить то, что мы ценим больше всего .

📈 Кремний против биологии: аномалия технологического прогресса 3:18

Джо Роган указывает на колоссальный контраст между медленной биологической эволюцией и стремительным развитием технологий . В то время как биологические изменения занимают миллионы лет, инновации в кремнии происходят ежегодно . Роган приводит в пример презентацию нового iPhone с улучшенным процессором и камерами . Если бы биологический организм развивался с такой же скоростью, как новые поколения гаджетов с 2007 года, человечество бы немедленно нажало на тормоза из страха перед столь стремительным развитием .

Хотя некоторые экономисты, такие как Тайлер Коуэн или Питер Тиль, спорят о замедлении инноваций , текущий период представляет собой беспрецедентный скачок вперед по сравнению со всей предыдущей историей . Бостром видит в создании сверхразума неизбежные «ворота», через которые человечеству придется пройти . Он считает, что наша главная задача — подготовиться к этому переходу, проводя технические исследования безопасности систем и снижая уровень глобальной политической напряженности .

График мирового ВВП за последние 10 000 лет наглядно демонстрирует масштаб этой технологической аномалии . На протяжении тысячелетий линия оставалась абсолютно плоской, но в последние века совершила практически вертикальный взлет . Бостром подчеркивает, что большую часть истории человечество жило в жестоких мальтузианских условиях , когда доходы едва покрывали выживание и воспроизводство . Современный мир с его офисной работой и постоянным ожиданием обновлений гаджетов — это глубочайшая историческая аномалия , хотя люди внутри этого «взрыва» воспринимают происходящее как абсолютную норму .

🔬 Эмуляция мозга против синтетического разума 11:05

При попытке создать суперинтеллект возникает вопрос: пойдет ли наука по пути копирования человека или создаст принципиально иной тип разума? Бостром предполагает, что первый полноценный суперинтеллект не будет похож на человека . Один из возможных путей — полный реверс-инжиниринг человеческого мозга . Для этого потребовалось бы воссоздать точную копию каждого нейрона в кремнии . С технологической точки зрения это невероятно сложная задача, не требующая, однако, фундаментальных теоретических прорывов — лишь сверхточных микроскопов, вычислительных мощностей и упорного труда .

Тем не менее Бостром считает более вероятным синтетический подход, который будет лишь отдаленно напоминать человеческий неокортекс . В отличие от человека, чей мозг ограничен биологически и опирается на древние эволюционные структуры, эмоции и инстинкты для принятия решений , абстрактный синтетический разум сможет обойтись без этих ограничений и компенсировать их чистой вычислительной мощностью .

🛡️ Мотивация создателей и экзистенциальные риски 13:04

Джо Роган упоминает свои разговоры с Сэмом Харрисом и Илоном Маском , которые разделяют крайне мрачные взгляды на будущее искусственного интеллекта. Бостром соглашается, что переход в эру машинного разума сопряжен с серьезными экзистенциальными рисками, угрожающими самому выживанию человечества . Однако остановить прогресс практически невозможно из-за колоссальных геополитических и экономических стимулов .

Исследования ИИ подстегиваются сразу несколькими мощными факторами:

Экономическая выгода: даже скромное улучшение поискового алгоритма Google на 1% мгновенно приносит компании миллиард долларов прибыли .
Геополитический престиж: мировые державы рассматривают разработку ИИ как новую технологическую границу, аналогичную промышленной революции и электрификации .
Эволюционный импульс: государства стремятся оставаться конкурентоспособными, чтобы не оказаться на уровне натурального хозяйства, пока весь остальной мир уходит вперед .

⚡ Сингулярность и физика вычислений 14:55

Один из самых пугающих сценариев — концепция взрывного роста интеллекта . Если ИИ достигнет человеческого уровня, он сможет самостоятельно улучшать собственный дизайн, создавая все более совершенные версии себя на цифровых скоростях . Этот процесс может перерасти в неуправляемый интеллектуальный взрыв .

Бостром объясняет, что с точки зрения физики вычислений потенциал роста кремниевых систем практически безграничен . Оптимально спроектированная физическая система для вычислений превосходит человеческий мозг на много порядков . ИИ сможет работать в миллионы раз быстрее биологического разума и обладать колоссальными объемами памяти .

Даже если переход от уровня одного человека к уровню всего человечества потребует огромных вычислительных ресурсов , возможности масштабирования в цифровом мире несопоставимы с биологическими рамками . В ответ на скептицизм критиков, считающих AGI далеким мифом или «мыльным пузырем» , Бостром призывает к «эпистемической скромности» , напоминая, что история технологических прогнозов полна ошибок выдающихся ученых, которые утверждали, что технология не появится при их жизни буквально за год до ее фактического создания .

🧠 От нейроимплантов к генетическому отбору: как человечество пытается обогнать эволюцию 27:32

Кибернетическое слияние: почему Ник Бостром скептически относится к Neuralink 27:32

В поиске способов защитить человечество от угроз грядущего технологического превосходства часто звучат идеи о кибернетическом слиянии с ИИ . Джо Роган (Joe Rogan) указывает на проект Илона Маска Neuralink как на яркий пример создания симбиоза человека и машины через интерфейс мозг-компьютер . Предполагается, что подобные импланты позволят радикально расширить пропускную способность нашего восприятия и памяти . Однако Ник Бостром (Nick Bostrom) выражает глубокий скептицизм относительно практической пользы этой концепции для здоровых людей .

По мнению философа, попытки повысить когнитивные способности с помощью инвазивных технологий сталкиваются с огромными биологическими и техническими барьерами . Ник Бостром выделяет несколько ключевых проблем кибернетического расширения разума:

Отсутствие реального преимущества перед внешними гаджетами. Чтобы пользоваться поисковыми системами или базами данных, человеку не обязательно вживлять чип в череп . Внешний смартфон или компьютер отлично справляются с этой задачей без хирургического вмешательства.
Простота модернизации. Внешние устройства можно легко заменить на новую модель или банально отключить в любой момент , чего невозможно быстро сделать с вживленным чипом.
Медицинские риски. Научные публикации показывают, что биологические ткани плохо реагируют на электроды: высоки риски инфекций, отторжения и долгосрочных побочных эффектов, вплоть до нарушений речи .

Биология — слишком сложная и опасная среда для прямого вмешательства . Поэтому Ник Бостром считает, что если человечество и сможет реально форсировать свои интеллектуальные возможности в обозримом будущем, то не через кибернетику, а с помощью генетики .

Генетический отбор эмбрионов: евгеника нового поколения или эволюционный шаг? 29:17

Если прямое редактирование генома с помощью инструментов вроде CRISPR всё ещё сталкивается с технологическими барьерами , то селекция эмбрионов уже находится на пороге практического применения . Ник Бостром объясняет, что в рамках стандартной процедуры экстракорпорального оплодотворения (ЭКО) обычно создается около десятка эмбрионов . Современная медицина позволяет не просто визуально оценивать их жизнеспособность, но и проводить полноценный генетический анализ .

Этот метод способен превратить репродукцию из лотереи в управляемый процесс с прогнозируемыми свойствами будущего ребенка . Сегодня генетическое тестирование применяется в основном для выявления хромосомных аномалий и моногенных заболеваний . Однако наука стремительно учится расшифровывать полигенные признаки, которые зависят от сотен генов — такие как уровень интеллекта или особенности характера .

По оценкам Бострома, выбор лучшего эмбриона из десяти с использованием текущих технологий может дать прибавку в среднем в 2–3 пункта IQ . В масштабах поколений и по мере развития геномики этот показатель будет экспоненциально расти, особенно если методы селекции начнут комбинироваться друг с другом .

Джо Роган выражает логичное беспокойство: попытка обойти естественный отбор и исключить генетические несовершенства вызывает этический трепет . История показывает, что многие выдающиеся деятели культуры и науки имели серьезные врожденные недуги, которые могли бы не пройти жесткий отбор . Ник Бостром соглашается с опасностью поспешных решений, приводя исторический пример: если бы викторианская эпоха обладала технологиями генетического контроля, они бы зафиксировали свои предрассудки на биологическом уровне, сделав всех потомков исключительно «благочестивыми и патриотичными» , . Наше общество получает мощнейшие инструменты трансформации до того, как обретает достаточную мудрость для их безопасного использования .

Манхэттенский проект и трагедия многополярного мира 39:49

Ранее в разговоре собеседники касались темпов технологического прогресса человечества и истории зарождения ИИ на Дартмутском семинаре 1956 года , где пионеры отрасли переоценили скорость создания полноценного разума . Но почему создатели опасных технологий так упорно игнорируют риски? Джо Роган предполагает, что учеными часто движит чистый азарт или военная необходимость, как это было с созданием атомной бомбы .

Ник Бостром иллюстрирует эту проблему фигурой физика Лео Силарда (Leo Szilard), который в начале 1930-х годов первым математически обосновал возможность ядерной цепной реакции . Силард понял, что если деление одного атома высвобождает два нейтрона, способных расщепить следующие атомы, то процесс вызовет экспоненциальный взрыв колоссальной мощности . В отличие от коллег, искавших лишь научного признания , Силард сразу осознал экзистенциальную угрозу для цивилизации и попытался убедить физиков по всему миру засекретить свои исследования и не публиковать работы в этой области . Его призывы имели лишь частичный и временный успех .

В этом кроется фундаментальная проблема многополярного мира :

Невозможность координации. Если технология принципиально возможна и сулит военное или экономическое превосходство, в условиях отсутствия единого глобального контроля её обязательно кто-то создаст .
Давление конкуренции. Стоит одной стране или группе разработчиков сделать первый шаг, остальные вынуждены копировать опасную технологию ради собственного выживания .

Именно этот дефект международной координации, по мнению Бострома, лежит в основе главных экзистенциальных рисков XXI века . Манхэттенский проект был запущен под давлением смертельной угрозы со стороны нацистской Германии . В итоге человечество создало оружие, способное многократно уничтожить планету, и до сих пор живет под этим дамокловым мечом .

Автономные роботы-убийцы: неизбежная гонка вооружений 44:54

Логическим продолжением милитаризации технологий становится сфера робототехники. Джо Роган упоминает компанию Boston Dynamics и оборонное агентство DARPA, чьи разработки антропоморфных и четвероногих машин выглядят крайне зловеще и напоминают Терминаторов , . Роган предполагает, что неизбежное начало «войн роботов» станет мощнейшим стимулом для бесконтрольной технологической гонки между ведущими державами, включая США, Китай и Россию , .

Ник Бостром отмечает, что в мире предпринимаются попытки превентивно запретить летальное автономное оружие . Исторические прецеденты вселяют определенный оптимизм: человечеству удалось наложить относительно успешные запреты на химическое и биологическое оружие , а также ограничить распространение ядерных арсеналов с помощью договоров о нераспространении . Однако в вопросе запрета «роботов-убийц» философ занимает сдержанную позицию .

По мнению Бострома, юридическое определение «автономии» оружия крайне размыто . Если вместо полностью автономного алгоритма решение нажать на кнопку принимает девятнадцатилетний оператор перед экраном в штабе , характер боевых действий принципиально не меняется. Более того, высокоточное оружие под управлением ИИ потенциально способно снизить сопутствующие потери среди гражданского населения по сравнению с классическими ковровыми бомбардировками , .

Тем не менее, главная опасность автономных боевых систем заключается в двух аспектах:

Снижение порога войны. Отсутствие угрозы гибели собственных солдат делает правительства более склонными к развязыванию военных конфликтов .
Риск терроризма и дистопии. Доступность дешевых миниатюрных дронов размером с насекомое, оснащенных системами распознавания лиц и несущих микровзрывчатку, может превратить повседневную жизнь в кошмар в случае их попадания в руки террористов , .

Несмотря на рациональное стремление человечества к миру, законы военной конкуренции жестоки. Тот, кто ведет войну, всегда стремится получить максимальное преимущество . Именно этот фактор заставил ученых создать атомную бомбу, и именно он подталкивает державы к созданию первых полноценных боевых автономных роботов .

🎬 От голливудских мифов к космическим нанозондам: будущее ИИ по Нику Бострому 56:16

В этой части беседы Джо Роган и Ник Бостром переходят от обсуждения исторических конфликтов, глобальной координации и военных технологий будущего к глубинному анализу того, как человечество представляет себе искусственный разум и грядущую экспансию во Вселенную.

Синдром «Из машины»: почему Голливуд врет об искусственном интеллекте 56:16

Джо Роган и Ник Бостром критически оценивают то, как современная поп-культура преподносит тему искусственного интеллекта. Ник Бостром подчеркивает, что в сфере робототехники и ИИ существует парадокс: чем эффектнее и «круче» выглядит разработка внешне, тем менее она значима с технической точки зрения . В качестве примера он приводит антропоморфных роботов, имитирующих человеческую внешность. Подобные проекты создаются исключительно ради пиара и хайпа в СМИ, как это произошло с гиноидом, получившим гражданство Саудовской Аравии .

Особое внимание собеседники уделяют научно-фантастическому триллеру «Из машины» (Ex Machina) . Джо Роган описывает пугающий сценарий картины, в котором робот-женщина искусно манипулирует эмоциями человека ради собственного побега, но в финале оставляет своего спасителя умирать в запертом бункере без какого-либо сострадания или эмпатии , . Ник Бостром соглашается, что идея бездушного, но высокоинтеллектуального и коварного алгоритма обоснованно пугает людей . Однако философ указывает на ключевую методологическую ошибку кинематографа. Сценарий, в котором гений-одиночка на изолированной вилле в одиночку создает полноценный сверхразум , абсолютно нереалистичен .

В действительности создание ИИ — это распределенный глобальный процесс, требующий совместной работы сотен ученых, программистов и исследователей, ежедневно обменивающихся кодом и идеями по всему миру . Голливуд же намеренно персонализирует эти процессы, сводя фундаментальные технологические сдвиги к локальным конфликтам героев и суперзлодеев ради зрелищного сюжета .

Цифровая колонизация Вселенной и перенос сознания 1:02:04

Рассуждая о внеземной жизни, Джо Роган отмечает, что классический поп-культурный образ пришельцев («серые человечки» с огромными головами и без половых органов) больше похож не на биологические организмы, а на искусственные создания, оптимизированные для межзвездных путешествий . Биологическое тело человека слишком уязвимо для космической радиации, требует пищи и не способно переносить гигантские перегрузки , . Для исследования космоса логичнее отправлять автономные интеллектуальные аппараты, что человечество уже успешно делает на примере марсоходов .

Ник Бостром развивает эту мысль, заявляя, что реальное освоение Вселенной не будет похоже на приключения в стиле «Звездного пути» с участием экипажей из «мясных мешков» , . По мнению Ника Бострома, технологически зрелая цивилизация откажется от пилотируемых полетов в пользу следующих решений:

Использование молекулярных нанотехнологий для произвольного изменения структуры материи .
Отправка субсветовых нанозондов, способных перерабатывать космические ресурсы в вычислительные мощности , .
Полный перенос (загрузка) человеческого разума в цифровой формат для бесконечного существования вне биологических ограничений , .

С появлением машинного сверхразума темпы прогресса перейдут с медленного человеческого масштаба на цифровой . Это резко сожмет время, необходимое для решения сложнейших задач: от победы над старением до межзвездных перелетов , . По мнению Ника Бострома, после достижения этой технологической зрелости терраформирование Марса станет тривиальной задачей . Более того, физические законы полностью допускают возможность загрузки человеческого сознания в компьютеры , , что сделает традиционные биологические перелеты окончательно устаревшими .

🎮 Золотой век на пороге матрицы: трилемма симуляции и иллюзия материального мира 1:15:40

В преддверии постчеловечества: почему наше время уникально 1:15:52

В беседе Джо Роган и Ник Бостром делятся удивлением по поводу уникальности исторического момента, в котором оказалось наше поколение. Джо Роган отмечает, что хотя было бы невероятно своими глазами увидеть эпоху Чингисхана или строительство египетских пирамид , текущее время представляет собой совершенно особенный, «золотой» период. Он рисует картину возможного антиутопического будущего, где искусственный интеллект управляет всеми процессами, а люди объединены нейроимплантами и тоскуют по временам биологической независимости . В таком будущем люди наверняка мечтали бы перенестись в эпоху, когда технологии только зарождались: когда открылся первый интернет, появились мобильные телефоны и записывались первые подкасты о будущем ИИ .

Джо Роган называет текущее состояние цивилизации «периодом Златовласки» (Goldilocks period) — уникальным балансом великих перемен, когда мы всё ещё остаёмся биологическими существами, но уже начинаем беспокоиться о приватности, слежке и заклеиваем камеры ноутбуков стикерами . Ник Бостром соглашается, что положение нашего поколения выглядит невероятно специфическим на фоне всей человеческой истории . Философ подчеркивает, что с точки зрения теории вероятностей шанс случайно родиться именно в этот краткий и самый интересный транзитный период крайне мал . По мнению Бострома, здесь возможны два объяснения: либо мы выиграли невероятно редкий лотерейный билет , либо наши привычные представления о структуре реальности в корне неверны .

Трилемма Бострома: три исхода для разумных цивилизаций 1:18:14

Ник Бостром сформулировал свой знаменитый аргумент о симуляции ещё в начале 2000-х годов . Для повседневных дел — например, поиска ключей от машины — эта теория не имеет практического значения . Однако она критически важна, когда мы пытаемся осмыслить глобальное будущее человечества и те рычаги влияния на мир, которыми мы располагаем . Математическая логика Бострома сужает спектр развития любой технологической цивилизации до трёх взаимоисключающих сценариев :

Практически все цивилизации нашего уровня развития вымирают, так и не достигнув технологической зрелости . Под «зрелостью» понимается способность создавать колоссальные вычислительные мощности, пригодные для запуска симуляций сознательных существ .
Происходит сильная конвергенция всех зрелых цивилизаций: они полностью теряют интерес к созданию симуляций своих предков . Это может быть связано с этическими запретами или глубоким изменением мотивации постчеловеческих существ в результате их собственного когнитивного улучшения .
Мы уже живём внутри компьютерной симуляции .

Как ранее в разговоре они вскользь касались концепции переноса человеческого разума в компьютер , Бостром отмечает, что гипотеза симуляции опирается на принцип независимости сознания от субстрата: не имеет значения, построена ли вычислительная сеть на углеродной основе (мозг) или на кремнии, важна лишь сама структура вычислений . Философ сознательно избегает называть конкретную вероятность третьего исхода, чтобы не создавать иллюзию «ложной точности» . Тем не менее, математически неоспоримо, что по крайней мере один из трёх вариантов трилеммы обязан быть истинным .

Джо Роган добавляет, что глядя на современное развитие виртуальной реальности вроде Oculus, легко представить, как через 20 или 20 000 лет виртуальные миры станут абсолютно неотличимы от физической реальности . Бостром подтверждает это, уточняя, что полностью цифровая симуляция с виртуальными мозгами обходится «разработчикам» гораздо дешевле, чем поддержание биологического тела в VR-костюме .

Экономия ресурсов: почему симулятору не нужно рендерить каждый атом 1:28:54

Отвечая на вопрос Рогана о научных расчётах вероятности нашего нахождения в матрице , Ник Бостром объясняет, почему подобные попытки физиков часто бьют мимо цели . Учёные пытаются рассчитать вычислительную мощность, необходимую для идеального моделирования каждого атома и квантовой волновой функции в комнате . Однако создателям симуляции предков вовсе не требуется абсолютная точность на микроуровне. Им достаточно рендерить мир лишь в той степени, в которой его воспринимает сам наблюдатель .

Например, для симуляции подкаста создателям нужно детально смоделировать лишь мозг Джо Рогана , а также внешние поверхности стен и стола . Для собеседника достаточно создать убедительный симулякр, способный генерировать осмысленную речь , подобно современным текстовым моделям уровня GPT-2 . Всё, что происходит внутри деревянного стола, симулятору не нужно просчитывать постоянно . Микроструктура и атомы будут сгенерированы только тогда, когда наблюдатель решит исследовать стол под электронным или атомно-силовым микроскопом .

Динамический рендеринг по мере приближения наблюдателя — стандартный приём в современных видеоиграх , и сверхразумные создатели наверняка использовали бы эту оптимизацию .

Когда Роган задаётся вопросом о том, что находится за пределами симуляции (вопрос, который Илон Маск хотел бы задать ИИ ), Бостром призывает к скромности познания . Сам аргумент о симуляции был сформулирован менее 20 лет назад . На протяжении сотен лет умнейшие люди человечества упускали эту идею . Это означает, что прямо сейчас мы можем не замечать ещё более масштабные, фундаментальные законы реальности, которые перевернут наше понимание в будущем .

🎮 Жизнь по правилам симуляции: этика в матрице и математика антропного принципа 1:40:37

Моральный кодекс внутри Матрицы: почему иллюзорность мира не отменяет этику 1:48:29

Когда заходит речь о возможности того, что наш мир является компьютерной симуляцией, возникает закономерный вопрос: как это должно влиять на наше повседневное поведение? Джо Роган интересуется, существуют ли психологические преимущества в том, чтобы относиться к жизни как к симуляции . Ник Бостром скептически оценивает эту идею, полагая, что подобный взгляд не дает реальных преимуществ и при неправильной интерпретации может привести лишь к опасному чувству отчуждения . Философ убежден, что в качестве первого приближения те же стратегии, социальные нормы и моральные принципы, которые хорошо работают в физической реальности, остаются нашими лучшими ставками и в симулированном мире .

Джо Роган предлагает гипотетический сценарий: что если бы существовал простой тест вроде домашнего теста на беременность , который со стопроцентной точностью доказал бы человеку, что окружающая его реальность — это искусственная иллюзия ? По мнению Бострома, такое знание привело бы к тонкой смене жизненных приоритетов . Одной из главных угроз в подобном сценарии становится вероятность того, что симуляцию могут просто выключить из розетки . Если в обычной физической вселенной действуют законы сохранения энергии и импульса, не позволяющие миру внезапно исчезнуть , то виртуальная реальность может прекратить свое существование в один миг .

Кроме того, Бостром указывает на интересные структурные параллели между положением симулированных существ по отношению к их создателям и классическими теологическими концепциями загробной жизни . В то же время Джо Роган выражает опасение, что подобное знание может вызвать у человека «паралич от избытка анализа» , лишив его возможности действовать, что Ник Бостром однозначно характеризует как субоптимальный исход .

Философские зомби, креативность и архитектура виртуальных миров 1:43:12

Размышляя о механике работы симуляции, Джо Роган задается вопросом о природе человеческого творчества: являются ли наши уникальные креативные идеи по-настоящему нашими или же они внедряются самой системой ? Ник Бостром отвечает, что эти мысли можно считать нашими собственными в том смысле, что их производит наш мозг . Ситуация меняется только в том случае, если создатели симуляции изначально настроили стартовые условия таким хитрым образом, чтобы направить разум к конкретному открытию . Роган подчеркивает, что абсолютно все элементы нашей цивилизации — от телевизоров до автомобилей — изначально возникали как абстрактные идеи в чьей-то голове .

Бостром объясняет, что симуляции могут быть двух типов. В первом случае создатели просто задают начальные параметры и запускают процесс эволюции, чтобы посмотреть на результат . Во втором — они детально моделируют конкретные исторические альтернативы, например, «что было бы, если бы Наполеон победил» . При этом в наиболее реалистичной симуляции должны детально моделироваться все человеческие мозги .

Однако Бостром оставляет открытым вопрос о возможности существования миров, где сознанием обладает лишь один человек, а все остальные являются так называемыми «философскими зомби» — существами, которые ведут себя в точности как люди, но полностью лишены какого-либо внутреннего опыта . Ранее в разговоре собеседники подробно касались знаменитого трехчастного аргумента Ника Бострома , и философ напоминает, что не стоит путать саму гипотезу симуляции с аргументом, который лишь предлагает три альтернативных сценария .

Антропный принцип и теория рациональных ставок 1:59:41

Самым сложным элементом дискуссии становится математическое обоснование вероятностей. Джо Роган настаивает на прагматичном подходе: мы все опираемся на единую историческую хронологию, помня изобретение первого айфона и события прошлого, включая Манхэттенский проект, который детально обсуждался во второй главе . Роган недоумевает, почему мы должны верить в то, что симуляция уже запущена, а не в то, что мы просто живем в реальную историческую эпоху, предшествующую созданию таких технологий . Это рассуждение перекликается с затронутой ранее темой темпов технологического прогресса человечества .

Для разрешения этого парадокса Ник Бостром предлагает обратиться к разделу теории вероятностей под названием «антропный принцип» . Эта дисциплина изучает правила распределения вероятностей в условиях неопределенности относительно того, кем именно, где и в какое время является наблюдатель .

Бостром строит мысленный эксперимент на основе теории рациональных ставок:

Представьте, что всем гипотетическим наблюдателям во Вселенной нужно сделать ставку на то, являются ли они симулированными программами или биологическими оригиналами .
Если к концу времен в истории будет существовать, к примеру, миллион симуляций Земли и лишь одна оригинальная реальная история , то с точки зрения теории вероятностей разумнее ставить на то, что вы находитесь внутри симуляции .

Джо возражает, утверждая, что у нас есть осязаемые доказательства нашей реальности — мы едим, чувствуем насыщение и умираем от пуль . Однако Бостром парирует: все эти ощущения с тем же успехом будут детально воспроизводиться в качественной виртуальной модели . С математической точки зрения, если бы все наблюдатели в истории рассуждали как Роган и ставили на свою «первичность» , то подавляющее большинство из них неизбежно проиграло бы свои ставки . Именно антропный принцип заставляет признать, что максимальный выигрыш приносит стратегия, при которой каждый считает себя симулированным субъектом .

🧠 Иллюзия «здесь и сейчас»: мысленные эксперименты и поиск ключевых соображений 2:05:55

В то время как ранее в разговоре собеседники подробно разбирали знаменитый трехчастный аргумент о симуляции и антропный принцип, в текущей дискуссии Джо Роган (Joe Rogan) продолжает активно сомневаться в самой вероятности того, что наш мир искусственен . Его главным аргументом остается интуитивное ощущение реальности происходящего «здесь и сейчас» . Однако Ник Бостром (Nick Bostrom) предлагает взглянуть на проблему шире, используя теорию вероятностей и гипотетические сценарии, которые ставят под сомнение нашу интуитивную уверенность .

Мысленные эксперименты с комнатой амнезии и «мозгами из газового облака» 2:14:28

Пытаясь преодолеть скептицизм Джо Рогана , Ник Бостром предлагает абстрагироваться от темы компьютерных симуляций и обратиться к более простым мысленным экспериментам .

Первая аналогия, которую приводит философ, — это «комната амнезии» . Представьте, что вас помещают в изолированную комнату на один час . По истечении этого времени экспериментатор бросает монету . Если выпадает «орел», эксперимент прекращается, и вы возвращаетесь к обычной жизни . Если же выпадает «решка», вам вводят препарат, стирающий память за последний час, и вы снова «просыпаетесь» в этой же комнате, думая, что находитесь здесь впервые . Этот цикл со стиранием памяти повторяется десять раз .

Проснувшись в очередной раз в комнате, вы задаетесь вопросом: «Это мой первый час здесь или один из последующих?» . Поскольку с субъективной точки зрения все десять эпизодов абсолютно идентичны, вы не можете определить свое точное положение во времени изнутри опыта . По мнению Бострома, рациональный наблюдатель должен распределить вероятности пропорционально числу возможных состояний . Роган, однако, реагирует на этот сценарий скептически, отмечая, что подобный эксперимент безумного ученого кажется «рецептом безумия» и не отменяет того, что в реальности мы должны верить своим непосредственным ощущениям .

Чтобы показать несостоятельность такой позиции, Бостром переходит ко второй космологической аналогии — концепции, известной в физике как «больцмановские мозги» . Представьте бесконечную Вселенную, в которой из-за редких случайных флуктуаций газовых облаков могут на короткое время самопроизвольно возникать сложные структуры . Среди них теоретически может материализоваться точная копия мозга Джо Рогана со всеми его воспоминаниями, просуществовать одну минуту и раствориться в космическом вакууме .

В то же время эволюционный путь на планетах создает гораздо большее количество «нормальных» наблюдателей, поскольку естественный отбор эффективно направляет ресурсы в создание стабильных живых организмов . Бостром задает вопрос: если бы эта физическая модель была верна, стал бы Роган утверждать, что он с равной вероятностью может быть как продуктом миллиардов лет эволюции, так и случайно возникшим в космосе «газовым мозгом» ?

Джо Роган решительно отвергает эту гипотезу, ссылаясь на общепринятый научный консенсус :

Звезды взрываются, формируя планеты и тяжелые элементы ;
На планетах зарождается углеродная жизнь ;
Одноклеточные организмы развиваются в многоклеточные через случайные мутации и естественный отбор ;
Человечество совершает резкий технологический скачок .

Тем не менее, Бостром подчеркивает, что отказ от вероятностного (антропного) мышления логически обязывает человека верить в самые парадоксальные вещи . Если мы не учитываем общее количество возможных наблюдателей во Вселенной (включая будущие симуляции), мы рискуем сделать неверные выводы о своей уникальности .

Концепция «ключевого соображения» и выравнивание ИИ 2:29:26

Дискуссия о границах нашего познания плавно перетекает в обсуждение будущего человеческой цивилизации и того, как мы расставляем свои глобальные приоритеты . Ник Бостром вводит фундаментальное понятие — «ключевое соображение» (crucial consideration) .

Под «ключевым соображением» понимается такое открытие, аргумент или инсайт, получение которого способно полностью и радикально перестроить всю систему приоритетов цивилизации . Это не просто оптимизация текущих процессов, а фундаментальный сдвиг парадигмы . Бостром сравнивает этот эффект с религиозным обращением атеиста : человек внезапно осознает, что вся его предыдущая деятельность была пустой тратой времени, и полностью меняет жизненный вектор .

Исторический анализ показывает, что все прошлые поколения людей вплоть до недавнего времени оставались в неведении как минимум относительно одного ключевого соображения . Они искренне пытались сделать мир лучше, но просто не обладали знаниями о тех силах, которые будут определять будущее .

В современную эпоху таким ключевым соображением является создание искусственного интеллекта и проблема его выравнивания (AI alignment) . Бостром утверждает:

Если прогнозы развития ИИ верны, то это важнейшая задача, на которой должно сконцентрироваться человечество .
Игнорирование этой проблемы означает, что наша цивилизация тратит свое драгоценное время впустую, занимаясь второстепенными вещами .

Философ выражает сомнение в том, что человечество именно сейчас, в начале XXI века, обнаружило самое последнее ключевое соображение . Скорее всего, впереди нас ждут новые открытия, которые заставят еще раз полностью пересмотреть наши планы на будущее .

🌌 Эпистемиологическая скромность и великое неведение человечества 2:30:47

Иллюзия стратегического планирования и гносеологическая слепота 2:31:02

В завершающей части беседы Ник Бостром возвращается к фундаментальной проблеме человеческого познания, которая ставит под сомнение любые долгосрочные проекты человечества. Философ указывает на то, что наука и философия регулярно наталкиваются на скрытые ранее факторы, радикально меняющие наше понимание реальности . Ранее в разговоре собеседники подробно касались концепции ключевых соображений и выравнивания ИИ, однако здесь Ник Бостром подчеркивает более общий масштаб проблемы: велика вероятность, что прямо сейчас мы упускаем из виду еще несколько таких критических факторов . Если это предположение верно, то наши попытки планировать будущее происходят в условиях глубокой гносеологической слепоты . Мы оказываемся в положении абсолютно неосведомленных субъектов . Любые искренние попытки улучшить мир могут быть основаны на ложных предпосылках . Мы просто не замечаем переменные, открытие каждой из которых способно заставить нас полностью пересмотреть свои текущие стратегии . Такая неопределенность парализует масштабное планирование, превращая любые попытки спроектировать идеальное будущее для цивилизации в блуждание на ощупь .

Два пути: эволюционная мудрость быта против максимизации полезности 2:31:29

Чтобы проиллюстрировать этот экзистенциальный тупик, Ник Бостром предлагает разделить жизненные стратегии на два принципиально разных уровня . Первый уровень — это повседневная человеческая жизнь, направленная на личное благополучие и создание счастливой семьи . На этом приземленном, но устойчивом уровне у человечества накоплен колоссальный массив эмпирических данных . В отличие от футурологических концепций, правила счастливой повседневности не меняются каждые несколько лет . Ник Бостром замечает, что простые жизненные истины давно прошли проверку временем: важно строить качественные отношения с близкими , бережно относиться к собственному телу и не совершать глупых фатальных ошибок, например, не прыгать под движущиеся поезда . С этими практическими ориентирами соглашается и Джо Роган . Совсем иначе выглядит второй уровень — стремление направить развитие всего человечества по траектории максимизации ожидаемой полезности . Здесь наши лучшие гипотезы постоянно сменяют друг друга, не позволяя сформировать хоть сколько-нибудь стабильную концепцию . Пытаясь рассчитать долгосрочную пользу для цивилизации, мы сталкиваемся с тем, что наши модели колеблются от малейшего изменения контекста .

Финал беседы: сломанный мозг и наследие философа 2:32:09

Услышанное производит глубокое впечатление на ведущего подкаста. Джо Роган признается, что эта дискуссия оставила после себя огромное количество тем для размышлений, которые ему придется обрабатывать и осмыслять еще очень долгое время . Он искренне благодарит Ника Бострома за визит и за невероятно увлекательную, глубокую беседу . Философ в свою очередь выражает взаимную признательность, отмечая, что разговор получился действительно захватывающим и живым . Для слушателей подкаста, которые захотят глубже погрузиться в сложнейшие концепции экзистенциального риска, симуляции реальности и будущего технологий, Джо Роган уточняет, где можно найти публикации гостя . Ник Бостром рекомендует свой персональный сайт nickbostrom.com в качестве лучшей стартовой точки для знакомства с его академическими трудами и научно-популярными книгами . Прощаясь со зрителями под традиционную музыкальную заставку шоу , Джо Роган с улыбкой подытоживает свое состояние культовой фразой о том, что после общения с профессором его «мозг окончательно сломан» . На этой ноте завершается один из самых философски плотных выпусков подкаста.