# Трилемма Бострома: живем ли мы в симуляции?

Источник: https://www.youtube.com/watch?v=5c4cv7rVlE8
Канал: PowerfulJRE
Опубликовано: 12.09.2019

---

Математически почти неизбежно, что мы либо обречены на вымирание до достижения технологической зрелости, либо уже являемся частью компьютерной симуляции, созданной более развитой цивилизацией. В этом разговоре философ Ник Бостром разбирает, почему наш текущий «период Златовласки» — критическая точка между биологическим прошлым и суперинтеллектуальным будущим — требует радикального пересмотра приоритетов человечества.

## 🚀 Великий переход: искусственный разум на пороге человеческой сингулярности
[[JUMP:00:00]]

### 🧠 Страхи и надежды перед суперинтеллектом
[[JUMP:00:00]]
Джо Роган начинает разговор с фундаментального вопроса, который пугает человечество больше всего: создаем ли мы нечто, что в конечном итоге окажется умнее нас и заменит людей как вид [0:00]? Ник Бостром отвечает, что эта технология вызывает одновременно и величайшие страхи, и величайшие надежды [0:26]. По мнению философа, большинство глобальных проблем человечества можно было бы решить, если бы люди обладали гораздо более высоким интеллектом или имели на своей стороне мощного и разумного союзника [0:50]. Именно суперинтеллект, если он будет создан, сделает возможными масштабные проекты будущего (в последующих главах собеседники подробнее коснутся загрузки сознания и космической экспансии) [1:05]. 

Главный вызов заключается в том, сможем ли мы контролировать этот разум [1:18]. Существует риск его использования во вред, как это происходило со многими технологиями на протяжении истории [1:32]. Бостром выделяет две ключевые задачи: 

* согласование ИИ с человеческими ценностями [1:46];
* способность человечества использовать технологию для сотрудничества, а не для войн или взаимного угнетения [1:46].

Джо Роган признается, что его беспокоит перспектива абсолютного биологического устаревания человека [1:59]. Он сравнивает наше текущее положение с австралопитеками, подчеркивая нежелание оставаться лишь промежуточным звеном эволюции [2:12]. Бостром соглашается, что человечество в его нынешнем виде не является венцом творения [2:25], но путь к дальнейшему развитию должен быть пройден так, чтобы сохранить и приумножить то, что мы ценим больше всего [2:52].

### 📈 Кремний против биологии: аномалия технологического прогресса
[[JUMP:03:18]]
Джо Роган указывает на колоссальный контраст между медленной биологической эволюцией и стремительным развитием технологий [03:18]. В то время как биологические изменения занимают миллионы лет, инновации в кремнии происходят ежегодно [03:32]. Роган приводит в пример презентацию нового iPhone с улучшенным процессором и камерами [03:45]. Если бы биологический организм развивался с такой же скоростью, как новые поколения гаджетов с 2007 года, человечество бы немедленно нажало на тормоза из страха перед столь стремительным развитием [03:59].

Хотя некоторые экономисты, такие как Тайлер Коуэн или Питер Тиль, спорят о замедлении инноваций [04:50], текущий период представляет собой беспрецедентный скачок вперед по сравнению со всей предыдущей историей [05:06]. Бостром видит в создании сверхразума неизбежные «ворота», через которые человечеству придется пройти [06:00]. Он считает, что наша главная задача — подготовиться к этому переходу, проводя технические исследования безопасности систем [06:28] и снижая уровень глобальной политической напряженности [06:42].

График мирового ВВП за последние 10 000 лет наглядно демонстрирует масштаб этой технологической аномалии [22:23]. На протяжении тысячелетий линия оставалась абсолютно плоской, но в последние века совершила практически вертикальный взлет [22:35]. Бостром подчеркивает, что большую часть истории человечество жило в жестоких мальтузианских условиях [21:44], когда доходы едва покрывали выживание и воспроизводство [21:57]. Современный мир с его офисной работой и постоянным ожиданием обновлений гаджетов — это глубочайшая историческая аномалия [21:31], хотя люди внутри этого «взрыва» воспринимают происходящее как абсолютную норму [23:16].

### 🔬 Эмуляция мозга против синтетического разума
[[JUMP:11:05]]
При попытке создать суперинтеллект возникает вопрос: пойдет ли наука по пути копирования человека или создаст принципиально иной тип разума? Бостром предполагает, что первый полноценный суперинтеллект не будет похож на человека [11:05]. Один из возможных путей — полный реверс-инжиниринг человеческого мозга [11:18]. Для этого потребовалось бы воссоздать точную копию каждого нейрона в кремнии [11:31]. С технологической точки зрения это невероятно сложная задача, не требующая, однако, фундаментальных теоретических прорывов — лишь сверхточных микроскопов, вычислительных мощностей и упорного труда [11:44].

Тем не менее Бостром считает более вероятным синтетический подход, который будет лишь отдаленно напоминать человеческий неокортекс [11:57]. В отличие от человека, чей мозг ограничен биологически и опирается на древние эволюционные структуры, эмоции и инстинкты для принятия решений [12:37], абстрактный синтетический разум сможет обойтись без этих ограничений и компенсировать их чистой вычислительной мощностью [12:52].

### 🛡️ Мотивация создателей и экзистенциальные риски
[[JUMP:13:04]]
Джо Роган упоминает свои разговоры с Сэмом Харрисом [13:04] и Илоном Маском [13:19], которые разделяют крайне мрачные взгляды на будущее искусственного интеллекта. Бостром соглашается, что переход в эру машинного разума сопряжен с серьезными экзистенциальными рисками, угрожающими самому выживанию человечества [13:33]. Однако остановить прогресс практически невозможно из-за колоссальных геополитических и экономических стимулов [13:58].

Исследования ИИ подстегиваются сразу несколькими мощными факторами:

* **Экономическая выгода:** даже скромное улучшение поискового алгоритма Google на 1% мгновенно приносит компании миллиард долларов прибыли [14:11].
* **Геополитический престиж:** мировые державы рассматривают разработку ИИ как новую технологическую границу, аналогичную промышленной революции и электрификации [14:23].
* **Эволюционный импульс:** государства стремятся оставаться конкурентоспособными, чтобы не оказаться на уровне натурального хозяйства, пока весь остальной мир уходит вперед [14:51].

### ⚡ Сингулярность и физика вычислений
[[JUMP:14:55]]
Один из самых пугающих сценариев — концепция взрывного роста интеллекта [14:55]. Если ИИ достигнет человеческого уровня, он сможет самостоятельно улучшать собственный дизайн, создавая все более совершенные версии себя на цифровых скоростях [15:04]. Этот процесс может перерасти в неуправляемый интеллектуальный взрыв [15:31].

Бостром объясняет, что с точки зрения физики вычислений потенциал роста кремниевых систем практически безграничен [16:15]. Оптимально спроектированная физическая система для вычислений превосходит человеческий мозг на много порядков [16:27]. ИИ сможет работать в миллионы раз быстрее биологического разума и обладать колоссальными объемами памяти [16:42]. 

Даже если переход от уровня одного человека к уровню всего человечества потребует огромных вычислительных ресурсов [17:47], возможности масштабирования в цифровом мире несопоставимы с биологическими рамками [16:15]. В ответ на скептицизм критиков, считающих AGI далеким мифом или «мыльным пузырем» [18:26], Бостром призывает к «эпистемической скромности» [19:59], напоминая, что история технологических прогнозов полна ошибок выдающихся ученых, которые утверждали, что технология не появится при их жизни буквально за год до ее фактического создания [19:46].

## 🧠 От нейроимплантов к генетическому отбору: как человечество пытается обогнать эволюцию
[[JUMP:27:32]]

### Кибернетическое слияние: почему Ник Бостром скептически относится к Neuralink
[[JUMP:27:32]]

В поиске способов защитить человечество от угроз грядущего технологического превосходства часто звучат идеи о кибернетическом слиянии с ИИ [27:32]. Джо Роган (Joe Rogan) указывает на проект Илона Маска Neuralink как на яркий пример создания симбиоза человека и машины через интерфейс мозг-компьютер [27:45]. Предполагается, что подобные импланты позволят радикально расширить пропускную способность нашего восприятия и памяти [27:59]. Однако Ник Бостром (Nick Bostrom) выражает глубокий скептицизм относительно практической пользы этой концепции для здоровых людей [28:11].

По мнению философа, попытки повысить когнитивные способности с помощью инвазивных технологий сталкиваются с огромными биологическими и техническими барьерами [28:11]. Ник Бостром выделяет несколько ключевых проблем кибернетического расширения разума:

*   **Отсутствие реального преимущества перед внешними гаджетами.** Чтобы пользоваться поисковыми системами или базами данных, человеку не обязательно вживлять чип в череп [28:24]. Внешний смартфон или компьютер отлично справляются с этой задачей без хирургического вмешательства.

*   **Простота модернизации.** Внешние устройства можно легко заменить на новую модель или банально отключить в любой момент [28:37], чего невозможно быстро сделать с вживленным чипом.

*   **Медицинские риски.** Научные публикации показывают, что биологические ткани плохо реагируют на электроды: высоки риски инфекций, отторжения и долгосрочных побочных эффектов, вплоть до нарушений речи [28:50].

Биология — слишком сложная и опасная среда для прямого вмешательства [29:02]. Поэтому Ник Бостром считает, что если человечество и сможет реально форсировать свои интеллектуальные возможности в обозримом будущем, то не через кибернетику, а с помощью генетики [29:17].

### Генетический отбор эмбрионов: евгеника нового поколения или эволюционный шаг?
[[JUMP:29:17]]

Если прямое редактирование генома с помощью инструментов вроде CRISPR всё ещё сталкивается с технологическими барьерами [29:30], то селекция эмбрионов уже находится на пороге практического применения [29:17]. Ник Бостром объясняет, что в рамках стандартной процедуры экстракорпорального оплодотворения (ЭКО) обычно создается около десятка эмбрионов [29:30]. Современная медицина позволяет не просто визуально оценивать их жизнеспособность, но и проводить полноценный генетический анализ [29:44].

Этот метод способен превратить репродукцию из лотереи в управляемый процесс с прогнозируемыми свойствами будущего ребенка [30:12]. Сегодня генетическое тестирование применяется в основном для выявления хромосомных аномалий и моногенных заболеваний [30:26]. Однако наука стремительно учится расшифровывать полигенные признаки, которые зависят от сотен генов — такие как уровень интеллекта или особенности характера [30:38]. 

По оценкам Бострома, выбор лучшего эмбриона из десяти с использованием текущих технологий может дать прибавку в среднем в 2–3 пункта IQ [31:06]. В масштабах поколений и по мере развития геномики этот показатель будет экспоненциально расти, особенно если методы селекции начнут комбинироваться друг с другом [31:18]. 

Джо Роган выражает логичное беспокойство: попытка обойти естественный отбор и исключить генетические несовершенства вызывает этический трепет [32:10]. История показывает, что многие выдающиеся деятели культуры и науки имели серьезные врожденные недуги, которые могли бы не пройти жесткий отбор [32:10]. Ник Бостром соглашается с опасностью поспешных решений, приводя исторический пример: если бы викторианская эпоха обладала технологиями генетического контроля, они бы зафиксировали свои предрассудки на биологическом уровне, сделав всех потомков исключительно «благочестивыми и патриотичными» [32:37], [32:51]. Наше общество получает мощнейшие инструменты трансформации до того, как обретает достаточную мудрость для их безопасного использования [33:16].

### Манхэттенский проект и трагедия многополярного мира
[[JUMP:39:49]]

Ранее в разговоре собеседники касались темпов технологического прогресса человечества и истории зарождения ИИ на Дартмутском семинаре 1956 года [36:39], где пионеры отрасли переоценили скорость создания полноценного разума [38:16]. Но почему создатели опасных технологий так упорно игнорируют риски? Джо Роган предполагает, что учеными часто движит чистый азарт или военная необходимость, как это было с созданием атомной бомбы [39:49].

Ник Бостром иллюстрирует эту проблему фигурой физика Лео Силарда (Leo Szilard), который в начале 1930-х годов первым математически обосновал возможность ядерной цепной реакции [40:28]. Силард понял, что если деление одного атома высвобождает два нейтрона, способных расщепить следующие атомы, то процесс вызовет экспоненциальный взрыв колоссальной мощности [40:53]. В отличие от коллег, искавших лишь научного признания [41:07], Силард сразу осознал экзистенциальную угрозу для цивилизации и попытался убедить физиков по всему миру засекретить свои исследования и не публиковать работы в этой области [41:22]. Его призывы имели лишь частичный и временный успех [41:35].

В этом кроется фундаментальная проблема многополярного мира [42:54]:
    
*   **Невозможность координации.** Если технология принципиально возможна и сулит военное или экономическое превосходство, в условиях отсутствия единого глобального контроля её обязательно кто-то создаст [42:42].
*   **Давление конкуренции.** Стоит одной стране или группе разработчиков сделать первый шаг, остальные вынуждены копировать опасную технологию ради собственного выживания [42:42].

Именно этот дефект международной координации, по мнению Бострома, лежит в основе главных экзистенциальных рисков XXI века [43:07]. Манхэттенский проект был запущен под давлением смертельной угрозы со стороны нацистской Германии [43:20]. В итоге человечество создало оружие, способное многократно уничтожить планету, и до сих пор живет под этим дамокловым мечом [43:47].

### Автономные роботы-убийцы: неизбежная гонка вооружений
[[JUMP:44:54]]

Логическим продолжением милитаризации технологий становится сфера робототехники. Джо Роган упоминает компанию Boston Dynamics и оборонное агентство DARPA, чьи разработки антропоморфных и четвероногих машин выглядят крайне зловеще и напоминают Терминаторов [45:09], [45:35]. Роган предполагает, что неизбежное начало «войн роботов» станет мощнейшим стимулом для бесконтрольной технологической гонки между ведущими державами, включая США, Китай и Россию [45:48], [46:01].

Ник Бостром отмечает, что в мире предпринимаются попытки превентивно запретить летальное автономное оружие [46:40]. Исторические прецеденты вселяют определенный оптимизм: человечеству удалось наложить относительно успешные запреты на химическое и биологическое оружие [46:54], а также ограничить распространение ядерных арсеналов с помощью договоров о нераспространении [47:07]. Однако в вопросе запрета «роботов-убийц» философ занимает сдержанную позицию [47:50].

По мнению Бострома, юридическое определение «автономии» оружия крайне размыто [48:15]. Если вместо полностью автономного алгоритма решение нажать на кнопку принимает девятнадцатилетний оператор перед экраном в штабе [48:29], характер боевых действий принципиально не меняется. Более того, высокоточное оружие под управлением ИИ потенциально способно снизить сопутствующие потери среди гражданского населения по сравнению с классическими ковровыми бомбардировками [49:06], [49:21].

Тем не менее, главная опасность автономных боевых систем заключается в двух аспектах:

*   **Снижение порога войны.** Отсутствие угрозы гибели собственных солдат делает правительства более склонными к развязыванию военных конфликтов [49:21].
*   **Риск терроризма и дистопии.** Доступность дешевых миниатюрных дронов размером с насекомое, оснащенных системами распознавания лиц и несущих микровзрывчатку, может превратить повседневную жизнь в кошмар в случае их попадания в руки террористов [49:33], [49:47].

Несмотря на рациональное стремление человечества к миру, законы военной конкуренции жестоки. Тот, кто ведет войну, всегда стремится получить максимальное преимущество [50:01]. Именно этот фактор заставил ученых создать атомную бомбу, и именно он подталкивает державы к созданию первых полноценных боевых автономных роботов [50:14].

## 🎬 От голливудских мифов к космическим нанозондам: будущее ИИ по Нику Бострому
[[JUMP:56:16]]

В этой части беседы Джо Роган и Ник Бостром переходят от обсуждения исторических конфликтов, глобальной координации [50:26] и военных технологий будущего [55:04] к глубинному анализу того, как человечество представляет себе искусственный разум и грядущую экспансию во Вселенную.

### Синдром «Из машины»: почему Голливуд врет об искусственном интеллекте
[[JUMP:56:16]]

Джо Роган и Ник Бостром критически оценивают то, как современная поп-культура преподносит тему искусственного интеллекта. Ник Бостром подчеркивает, что в сфере робототехники и ИИ существует парадокс: чем эффектнее и «круче» выглядит разработка внешне, тем менее она значима с технической точки зрения [56:16]. В качестве примера он приводит антропоморфных роботов, имитирующих человеческую внешность. Подобные проекты создаются исключительно ради пиара и хайпа в СМИ, как это произошло с гиноидом, получившим гражданство Саудовской Аравии [56:58].

Особое внимание собеседники уделяют научно-фантастическому триллеру «Из машины» (Ex Machina) [57:10]. Джо Роган описывает пугающий сценарий картины, в котором робот-женщина искусно манипулирует эмоциями человека ради собственного побега, но в финале оставляет своего спасителя умирать в запертом бункере без какого-либо сострадания или эмпатии [58:58], [59:39]. Ник Бостром соглашается, что идея бездушного, но высокоинтеллектуального и коварного алгоритма обоснованно пугает людей [59:51]. Однако философ указывает на ключевую методологическую ошибку кинематографа. Сценарий, в котором гений-одиночка на изолированной вилле в одиночку создает полноценный сверхразум [1:00:32], абсолютно нереалистичен [1:01:39].

В действительности создание ИИ — это распределенный глобальный процесс, требующий совместной работы сотен ученых, программистов и исследователей, ежедневно обменивающихся кодом и идеями по всему миру [1:00:44]. Голливуд же намеренно персонализирует эти процессы, сводя фундаментальные технологические сдвиги к локальным конфликтам героев и суперзлодеев ради зрелищного сюжета [1:01:13].

### Цифровая колонизация Вселенной и перенос сознания
[[JUMP:1:02:04]]

Рассуждая о внеземной жизни, Джо Роган отмечает, что классический поп-культурный образ пришельцев («серые человечки» с огромными головами и без половых органов) [1:02:04] больше похож не на биологические организмы, а на искусственные создания, оптимизированные для межзвездных путешествий [1:02:42]. Биологическое тело человека слишком уязвимо для космической радиации, требует пищи и не способно переносить гигантские перегрузки [1:02:42], [1:03:21]. Для исследования космоса логичнее отправлять автономные интеллектуальные аппараты, что человечество уже успешно делает на примере марсоходов [1:02:55].

Ник Бостром развивает эту мысль, заявляя, что реальное освоение Вселенной не будет похоже на приключения в стиле «Звездного пути» с участием экипажей из «мясных мешков» [1:04:41], [1:04:54]. По мнению Ника Бострома, технологически зрелая цивилизация откажется от пилотируемых полетов в пользу следующих решений:

*   Использование молекулярных нанотехнологий для произвольного изменения структуры материи [1:04:17].
*   Отправка субсветовых нанозондов, способных перерабатывать космические ресурсы в вычислительные мощности [1:04:54], [1:05:06].
*   Полный перенос (загрузка) человеческого разума в цифровой формат для бесконечного существования вне биологических ограничений [1:09:20], [1:09:32].

С появлением машинного сверхразума темпы прогресса перейдут с медленного человеческого масштаба на цифровой [1:06:24]. Это резко сожмет время, необходимое для решения сложнейших задач: от победы над старением до межзвездных перелетов [1:06:24], [1:06:38]. По мнению Ника Бострома, после достижения этой технологической зрелости терраформирование Марса станет тривиальной задачей [1:08:42]. Более того, физические законы полностью допускают возможность загрузки человеческого сознания в компьютеры [1:09:20], [1:09:32], что сделает традиционные биологические перелеты окончательно устаревшими [1:06:11].

## 🎮 Золотой век на пороге матрицы: трилемма симуляции и иллюзия материального мира
[[JUMP:1:15:40]]

### В преддверии постчеловечества: почему наше время уникально
[[JUMP:1:15:52]]

В беседе Джо Роган и Ник Бостром делятся удивлением по поводу уникальности исторического момента, в котором оказалось наше поколение. Джо Роган отмечает, что хотя было бы невероятно своими глазами увидеть эпоху Чингисхана или строительство египетских пирамид [1:15:40], текущее время представляет собой совершенно особенный, «золотой» период. Он рисует картину возможного антиутопического будущего, где искусственный интеллект управляет всеми процессами, а люди объединены нейроимплантами и тоскуют по временам биологической независимости [1:15:52]. В таком будущем люди наверняка мечтали бы перенестись в эпоху, когда технологии только зарождались: когда открылся первый интернет, появились мобильные телефоны и записывались первые подкасты о будущем ИИ [1:16:05].

Джо Роган называет текущее состояние цивилизации «периодом Златовласки» (Goldilocks period) — уникальным балансом великих перемен, когда мы всё ещё остаёмся биологическими существами, но уже начинаем беспокоиться о приватности, слежке и заклеиваем камеры ноутбуков стикерами [1:16:42]. Ник Бостром соглашается, что положение нашего поколения выглядит невероятно специфическим на фоне всей человеческой истории [1:17:10]. Философ подчеркивает, что с точки зрения теории вероятностей шанс случайно родиться именно в этот краткий и самый интересный транзитный период крайне мал [1:17:36]. По мнению Бострома, здесь возможны два объяснения: либо мы выиграли невероятно редкий лотерейный билет [1:17:48], либо наши привычные представления о структуре реальности в корне неверны [1:18:01].

### Трилемма Бострома: три исхода для разумных цивилизаций
[[JUMP:1:18:14]]

Ник Бостром сформулировал свой знаменитый аргумент о симуляции ещё в начале 2000-х годов [1:18:26]. Для повседневных дел — например, поиска ключей от машины — эта теория не имеет практического значения [1:19:57]. Однако она критически важна, когда мы пытаемся осмыслить глобальное будущее человечества и те рычаги влияния на мир, которыми мы располагаем [1:19:19]. Математическая логика Бострома сужает спектр развития любой технологической цивилизации до трёх взаимоисключающих сценариев [1:20:47]:

1. Практически все цивилизации нашего уровня развития вымирают, так и не достигнув технологической зрелости [1:21:01]. Под «зрелостью» понимается способность создавать колоссальные вычислительные мощности, пригодные для запуска симуляций сознательных существ [1:21:13].

2. Происходит сильная конвергенция всех зрелых цивилизаций: они полностью теряют интерес к созданию симуляций своих предков [1:21:53]. Это может быть связано с этическими запретами [1:22:08] или глубоким изменением мотивации постчеловеческих существ в результате их собственного когнитивного улучшения [1:22:21].

3. Мы уже живём внутри компьютерной симуляции [1:25:02].

Как ранее в разговоре они вскользь касались концепции переноса человеческого разума в компьютер [1:22:46], Бостром отмечает, что гипотеза симуляции опирается на принцип независимости сознания от субстрата: не имеет значения, построена ли вычислительная сеть на углеродной основе (мозг) или на кремнии, важна лишь сама структура вычислений [1:24:24]. Философ сознательно избегает называть конкретную вероятность третьего исхода, чтобы не создавать иллюзию «ложной точности» [1:25:30]. Тем не менее, математически неоспоримо, что по крайней мере один из трёх вариантов трилеммы обязан быть истинным [1:25:45]. 

Джо Роган добавляет, что глядя на современное развитие виртуальной реальности вроде Oculus, легко представить, как через 20 или 20 000 лет виртуальные миры станут абсолютно неотличимы от физической реальности [1:26:37]. Бостром подтверждает это, уточняя, что полностью цифровая симуляция с виртуальными мозгами обходится «разработчикам» гораздо дешевле, чем поддержание биологического тела в VR-костюме [1:27:56].

### Экономия ресурсов: почему симулятору не нужно рендерить каждый атом
[[JUMP:1:28:54]]

Отвечая на вопрос Рогана о научных расчётах вероятности нашего нахождения в матрице [1:28:54], Ник Бостром объясняет, почему подобные попытки физиков часто бьют мимо цели [1:29:08]. Учёные пытаются рассчитать вычислительную мощность, необходимую для идеального моделирования каждого атома и квантовой волновой функции в комнате [1:29:21]. Однако создателям симуляции предков вовсе не требуется абсолютная точность на микроуровне. Им достаточно рендерить мир лишь в той степени, в которой его воспринимает сам наблюдатель [1:29:53].

Например, для симуляции подкаста создателям нужно детально смоделировать лишь мозг Джо Рогана [1:30:08], а также внешние поверхности стен и стола [1:30:22]. Для собеседника достаточно создать убедительный симулякр, способный генерировать осмысленную речь [1:30:34], подобно современным текстовым моделям уровня GPT-2 [1:30:48]. Всё, что происходит внутри деревянного стола, симулятору не нужно просчитывать постоянно [1:30:48]. Микроструктура и атомы будут сгенерированы только тогда, когда наблюдатель решит исследовать стол под электронным или атомно-силовым микроскопом [1:31:02]. 

Динамический рендеринг по мере приближения наблюдателя — стандартный приём в современных видеоиграх [1:31:28], и сверхразумные создатели наверняка использовали бы эту оптимизацию [1:31:42].

Когда Роган задаётся вопросом о том, что находится за пределами симуляции (вопрос, который Илон Маск хотел бы задать ИИ [1:35:52]), Бостром призывает к скромности познания [1:37:39]. Сам аргумент о симуляции был сформулирован менее 20 лет назад [1:38:06]. На протяжении сотен лет умнейшие люди человечества упускали эту идею [1:38:18]. Это означает, что прямо сейчас мы можем не замечать ещё более масштабные, фундаментальные законы реальности, которые перевернут наше понимание в будущем [1:38:32].

## 🎮 Жизнь по правилам симуляции: этика в матрице и математика антропного принципа
[[JUMP:1:40:37]]

### Моральный кодекс внутри Матрицы: почему иллюзорность мира не отменяет этику
[[JUMP:1:48:29]]

Когда заходит речь о возможности того, что наш мир является компьютерной симуляцией, возникает закономерный вопрос: как это должно влиять на наше повседневное поведение? Джо Роган [1:40:51] интересуется, существуют ли психологические преимущества в том, чтобы относиться к жизни как к симуляции [1:48:42]. Ник Бостром [1:40:51] скептически оценивает эту идею, полагая, что подобный взгляд не дает реальных преимуществ и при неправильной интерпретации может привести лишь к опасному чувству отчуждения [1:49:06]. Философ убежден, что в качестве первого приближения те же стратегии, социальные нормы и моральные принципы, которые хорошо работают в физической реальности, остаются нашими лучшими ставками и в симулированном мире [1:49:21].

Джо Роган предлагает гипотетический сценарий: что если бы существовал простой тест вроде домашнего теста на беременность [1:49:50], который со стопроцентной точностью доказал бы человеку, что окружающая его реальность — это искусственная иллюзия [1:50:04]? По мнению Бострома, такое знание привело бы к тонкой смене жизненных приоритетов [1:50:17]. Одной из главных угроз в подобном сценарии становится вероятность того, что симуляцию могут просто выключить из розетки [1:50:45]. Если в обычной физической вселенной действуют законы сохранения энергии и импульса, не позволяющие миру внезапно исчезнуть [1:50:58], то виртуальная реальность может прекратить свое существование в один миг [1:50:58]. 

Кроме того, Бостром указывает на интересные структурные параллели между положением симулированных существ по отношению к их создателям и классическими теологическими концепциями загробной жизни [1:51:24]. В то же время Джо Роган выражает опасение, что подобное знание может вызвать у человека «паралич от избытка анализа» [1:52:08], лишив его возможности действовать, что Ник Бостром однозначно характеризует как субоптимальный исход [1:52:21].

### Философские зомби, креативность и архитектура виртуальных миров
[[JUMP:1:43:12]]

Размышляя о механике работы симуляции, Джо Роган [1:40:51] задается вопросом о природе человеческого творчества: являются ли наши уникальные креативные идеи по-настоящему нашими или же они внедряются самой системой [1:43:26]? Ник Бостром отвечает, что эти мысли можно считать нашими собственными в том смысле, что их производит наш мозг [1:43:39]. Ситуация меняется только в том случае, если создатели симуляции изначально настроили стартовые условия таким хитрым образом, чтобы направить разум к конкретному открытию [1:44:07]. Роган подчеркивает, что абсолютно все элементы нашей цивилизации — от телевизоров до автомобилей — изначально возникали как абстрактные идеи в чьей-то голове [1:44:47].

Бостром объясняет, что симуляции могут быть двух типов. В первом случае создатели просто задают начальные параметры и запускают процесс эволюции, чтобы посмотреть на результат [1:45:12]. Во втором — они детально моделируют конкретные исторические альтернативы, например, «что было бы, если бы Наполеон победил» [1:45:28]. При этом в наиболее реалистичной симуляции должны детально моделироваться все человеческие мозги [1:46:43]. 

Однако Бостром оставляет открытым вопрос о возможности существования миров, где сознанием обладает лишь один человек, а все остальные являются так называемыми «философскими зомби» — существами, которые ведут себя в точности как люди, но полностью лишены какого-либо внутреннего опыта [1:47:11]. Ранее в разговоре собеседники подробно касались знаменитого трехчастного аргумента Ника Бострома [1:41:23], и философ напоминает, что не стоит путать саму гипотезу симуляции с аргументом, который лишь предлагает три альтернативных сценария [1:41:23].

### Антропный принцип и теория рациональных ставок
[[JUMP:1:59:41]]

Самым сложным элементом дискуссии становится математическое обоснование вероятностей. Джо Роган настаивает на прагматичном подходе: мы все опираемся на единую историческую хронологию, помня изобретение первого айфона [1:59:15] и события прошлого, включая Манхэттенский проект, который детально обсуждался во второй главе [1:59:02]. Роган недоумевает, почему мы должны верить в то, что симуляция уже запущена, а не в то, что мы просто живем в реальную историческую эпоху, предшествующую созданию таких технологий [1:59:28]. Это рассуждение перекликается с затронутой ранее темой темпов технологического прогресса человечества [1:53:00].

Для разрешения этого парадокса Ник Бостром предлагает обратиться к разделу теории вероятностей под названием «антропный принцип» [1:59:53]. Эта дисциплина изучает правила распределения вероятностей в условиях неопределенности относительно того, кем именно, где и в какое время является наблюдатель [2:00:05].

Бостром строит мысленный эксперимент на основе теории рациональных ставок:

* Представьте, что всем гипотетическим наблюдателям во Вселенной нужно сделать ставку на то, являются ли они симулированными программами или биологическими оригиналами [2:00:19].

* Если к концу времен в истории будет существовать, к примеру, миллион симуляций Земли и лишь одна оригинальная реальная история [1:56:48], то с точки зрения теории вероятностей разумнее ставить на то, что вы находитесь внутри симуляции [2:00:31].

Джо возражает, утверждая, что у нас есть осязаемые доказательства нашей реальности — мы едим, чувствуем насыщение и умираем от пуль [2:02:32]. Однако Бостром парирует: все эти ощущения с тем же успехом будут детально воспроизводиться в качественной виртуальной модели [2:02:18]. С математической точки зрения, если бы все наблюдатели в истории рассуждали как Роган и ставили на свою «первичность» [2:01:40], то подавляющее большинство из них неизбежно проиграло бы свои ставки [2:01:53]. Именно антропный принцип заставляет признать, что максимальный выигрыш приносит стратегия, при которой каждый считает себя симулированным субъектом [2:03:38].

## 🧠 Иллюзия «здесь и сейчас»: мысленные эксперименты и поиск ключевых соображений
[[JUMP:2:05:55]]

В то время как ранее в разговоре собеседники подробно разбирали знаменитый трехчастный аргумент о симуляции и антропный принцип, в текущей дискуссии Джо Роган (Joe Rogan) продолжает активно сомневаться в самой вероятности того, что наш мир искусственен [2:06:09]. Его главным аргументом остается интуитивное ощущение реальности происходящего «здесь и сейчас» [2:10:19]. Однако Ник Бостром (Nick Bostrom) предлагает взглянуть на проблему шире, используя теорию вероятностей и гипотетические сценарии, которые ставят под сомнение нашу интуитивную уверенность [2:08:46].

### Мысленные эксперименты с комнатой амнезии и «мозгами из газового облака»
[[JUMP:2:14:28]]

Пытаясь преодолеть скептицизм Джо Рогана [2:14:16], Ник Бостром предлагает абстрагироваться от темы компьютерных симуляций и обратиться к более простым мысленным экспериментам [2:14:28].

Первая аналогия, которую приводит философ, — это «комната амнезии» [2:14:28]. Представьте, что вас помещают в изолированную комнату на один час [2:14:53]. По истечении этого времени экспериментатор бросает монету [2:14:53]. Если выпадает «орел», эксперимент прекращается, и вы возвращаетесь к обычной жизни [2:15:07]. Если же выпадает «решка», вам вводят препарат, стирающий память за последний час, и вы снова «просыпаетесь» в этой же комнате, думая, что находитесь здесь впервые [2:15:07]. Этот цикл со стиранием памяти повторяется десять раз [2:15:19]. 

Проснувшись в очередной раз в комнате, вы задаетесь вопросом: «Это мой первый час здесь или один из последующих?» [2:15:46]. Поскольку с субъективной точки зрения все десять эпизодов абсолютно идентичны, вы не можете определить свое точное положение во времени изнутри опыта [2:15:46]. По мнению Бострома, рациональный наблюдатель должен распределить вероятности пропорционально числу возможных состояний [2:15:58]. Роган, однако, реагирует на этот сценарий скептически, отмечая, что подобный эксперимент безумного ученого кажется «рецептом безумия» [2:16:58] и не отменяет того, что в реальности мы должны верить своим непосредственным ощущениям [2:17:10].

Чтобы показать несостоятельность такой позиции, Бостром переходит ко второй космологической аналогии — концепции, известной в физике как «больцмановские мозги» [2:23:05]. Представьте бесконечную Вселенную, в которой из-за редких случайных флуктуаций газовых облаков могут на короткое время самопроизвольно возникать сложные структуры [2:23:05]. Среди них теоретически может материализоваться точная копия мозга Джо Рогана со всеми его воспоминаниями, просуществовать одну минуту и раствориться в космическом вакууме [2:23:05].

В то же время эволюционный путь на планетах создает гораздо большее количество «нормальных» наблюдателей, поскольку естественный отбор эффективно направляет ресурсы в создание стабильных живых организмов [2:23:17]. Бостром задает вопрос: если бы эта физическая модель была верна, стал бы Роган утверждать, что он с равной вероятностью может быть как продуктом миллиардов лет эволюции, так и случайно возникшим в космосе «газовым мозгом» [2:24:49]?

Джо Роган решительно отвергает эту гипотезу, ссылаясь на общепринятый научный консенсус [2:26:26]:

* Звезды взрываются, формируя планеты и тяжелые элементы [2:26:39];
* На планетах зарождается углеродная жизнь [2:26:39];
* Одноклеточные организмы развиваются в многоклеточные через случайные мутации и естественный отбор [2:26:53];
* Человечество совершает резкий технологический скачок [2:27:06].

Тем не менее, Бостром подчеркивает, что отказ от вероятностного (антропного) мышления логически обязывает человека верить в самые парадоксальные вещи [2:26:11]. Если мы не учитываем общее количество возможных наблюдателей во Вселенной (включая будущие симуляции), мы рискуем сделать неверные выводы о своей уникальности [2:18:27].

### Концепция «ключевого соображения» и выравнивание ИИ
[[JUMP:2:29:26]]

Дискуссия о границах нашего познания плавно перетекает в обсуждение будущего человеческой цивилизации и того, как мы расставляем свои глобальные приоритеты [2:29:26]. Ник Бостром вводит фундаментальное понятие — «ключевое соображение» (crucial consideration) [2:29:26].

Под «ключевым соображением» понимается такое открытие, аргумент или инсайт, получение которого способно полностью и радикально перестроить всю систему приоритетов цивилизации [2:29:39]. Это не просто оптимизация текущих процессов, а фундаментальный сдвиг парадигмы [2:29:39]. Бостром сравнивает этот эффект с религиозным обращением атеиста [2:29:53]: человек внезапно осознает, что вся его предыдущая деятельность была пустой тратой времени, и полностью меняет жизненный вектор [2:30:07].

Исторический анализ показывает, что все прошлые поколения людей вплоть до недавнего времени оставались в неведении как минимум относительно одного ключевого соображения [2:30:34]. Они искренне пытались сделать мир лучше, но просто не обладали знаниями о тех силах, которые будут определять будущее [2:30:47].

В современную эпоху таким ключевым соображением является создание искусственного интеллекта и проблема его выравнивания (AI alignment) [2:30:34]. Бостром утверждает:

* Если прогнозы развития ИИ верны, то это важнейшая задача, на которой должно сконцентрироваться человечество [2:30:34].
* Игнорирование этой проблемы означает, что наша цивилизация тратит свое драгоценное время впустую, занимаясь второстепенными вещами [2:30:34].

Философ выражает сомнение в том, что человечество именно сейчас, в начале XXI века, обнаружило самое последнее ключевое соображение [2:30:47]. Скорее всего, впереди нас ждут новые открытия, которые заставят еще раз полностью пересмотреть наши планы на будущее [2:30:47].

## 🌌 Эпистемиологическая скромность и великое неведение человечества
[[JUMP:2:30:47]]

### Иллюзия стратегического планирования и гносеологическая слепота
[[JUMP:2:31:02]]
В завершающей части беседы Ник Бостром возвращается к фундаментальной проблеме человеческого познания, которая ставит под сомнение любые долгосрочные проекты человечества. Философ указывает на то, что наука и философия регулярно наталкиваются на скрытые ранее факторы, радикально меняющие наше понимание реальности [2:31:02]. Ранее в разговоре собеседники подробно касались концепции ключевых соображений и выравнивания ИИ, однако здесь Ник Бостром подчеркивает более общий масштаб проблемы: велика вероятность, что прямо сейчас мы упускаем из виду еще несколько таких критических факторов [2:31:02]. Если это предположение верно, то наши попытки планировать будущее происходят в условиях глубокой гносеологической слепоты [2:31:15]. Мы оказываемся в положении абсолютно неосведомленных субъектов [2:31:15]. Любые искренние попытки улучшить мир могут быть основаны на ложных предпосылках [2:31:15]. Мы просто не замечаем переменные, открытие каждой из которых способно заставить нас полностью пересмотреть свои текущие стратегии [2:31:29]. Такая неопределенность парализует масштабное планирование, превращая любые попытки спроектировать идеальное будущее для цивилизации в блуждание на ощупь [2:31:29].

### Два пути: эволюционная мудрость быта против максимизации полезности
[[JUMP:2:31:29]]
Чтобы проиллюстрировать этот экзистенциальный тупик, Ник Бостром предлагает разделить жизненные стратегии на два принципиально разных уровня [2:31:29]. Первый уровень — это повседневная человеческая жизнь, направленная на личное благополучие и создание счастливой семьи [2:31:29]. На этом приземленном, но устойчивом уровне у человечества накоплен колоссальный массив эмпирических данных [2:31:29]. В отличие от футурологических концепций, правила счастливой повседневности не меняются каждые несколько лет [2:31:42]. Ник Бостром замечает, что простые жизненные истины давно прошли проверку временем: важно строить качественные отношения с близкими [2:31:42], бережно относиться к собственному телу и не совершать глупых фатальных ошибок, например, не прыгать под движущиеся поезда [2:31:42]. С этими практическими ориентирами соглашается и Джо Роган [2:31:55]. Совсем иначе выглядит второй уровень — стремление направить развитие всего человечества по траектории максимизации ожидаемой полезности [2:31:55]. Здесь наши лучшие гипотезы постоянно сменяют друг друга, не позволяя сформировать хоть сколько-нибудь стабильную концепцию [2:32:09]. Пытаясь рассчитать долгосрочную пользу для цивилизации, мы сталкиваемся с тем, что наши модели колеблются от малейшего изменения контекста [2:32:09].

### Финал беседы: сломанный мозг и наследие философа
[[JUMP:2:32:09]]
Услышанное производит глубокое впечатление на ведущего подкаста. Джо Роган признается, что эта дискуссия оставила после себя огромное количество тем для размышлений, которые ему придется обрабатывать и осмыслять еще очень долгое время [2:32:09]. Он искренне благодарит Ника Бострома за визит и за невероятно увлекательную, глубокую беседу [2:32:21]. Философ в свою очередь выражает взаимную признательность, отмечая, что разговор получился действительно захватывающим и живым [2:32:21]. Для слушателей подкаста, которые захотят глубже погрузиться в сложнейшие концепции экзистенциального риска, симуляции реальности и будущего технологий, Джо Роган уточняет, где можно найти публикации гостя [2:32:21]. Ник Бостром рекомендует свой персональный сайт nickbostrom.com в качестве лучшей стартовой точки для знакомства с его академическими трудами и научно-популярными книгами [2:32:34]. Прощаясь со зрителями под традиционную музыкальную заставку шоу [2:32:48], Джо Роган с улыбкой подытоживает свое состояние культовой фразой о том, что после общения с профессором его «мозг окончательно сломан» [2:32:34]. На этой ноте завершается один из самых философски плотных выпусков подкаста.