Живем ли мы в матрице: трилемма философа Ника Бострома

JRE Clips 2,6 млн 23 мин 7 мин 12.09.2019
Главное

В эпоху стремительного технологического прогресса человечество все чаще задается вопросами о природе собственной реальности. Известный философ Ник Бостром в эфире канала JRE Clips подробно разобрал свой знаменитый аргумент о симуляции, объяснив, почему вероятность нашего нахождения в виртуальном мире может быть гораздо выше, чем кажется на первый взгляд. Рассматривая развитие вычислительных мощностей и концепцию независимости сознания от биологического субстрата, исследователь предлагает строгое математическое разделение возможных сценариев будущего человечества.

🌌 Уникальность «эпохи Златовласки» и антропный парадокс 0:00

Размышляя о векторе развития технологий, ведущий канала JRE Clips предлагает мысленный эксперимент: представить гипотетическое антиутопическое будущее, в котором искусственный интеллект полностью управляет миром, а люди соединены нейроимплантами. По его мнению, находясь в такой технологической зависимости, человечество испытывало бы острую ностальгию по временам биологической независимости и искренне интересовалось бы тем коротким историческим моментом, когда создавались первые телефоны, открывался интернет и велись первые публичные дискуссии о потенциале ИИ. Ведущий считает, что современное человечество находится в так называемом «периоде Златовласки» — уникальном золотом веке великих перемен, когда мы все еще остаемся биологическими людьми, но уже начинаем всерьез беспокоиться о приватности, слежке и заклеивать камеры ноутбуков.

Ник Бостром соглашается, что наше текущее положение выглядит крайне специфическим. С точки зрения теории вероятностей, интуитивное представление о том, что конкретному человеку посчастливилось жить в самый интересный и переломный момент истории, обладает крайне низкой априорной вероятностью. По словам философа, это можно сравнить с лотереей: безусловно, кто-то должен вытянуть выигрышный билет. Однако Бостром подчеркивает: существует альтернативное объяснение, согласно которому наше привычное представление об устройстве мира ошибочно, и в реальности существует иная структура, делающая наш текущий опыт вполне типичным и распространенным для разумных существ.

📐 Три исхода эволюции разума: суть трилеммы Бострома 4:24

Философ отмечает, что разработал свой знаменитый аргумент о симуляции еще в начале 2000-х годов. В повседневной жизни Бостром, по его собственному признанию, редко концентрируется на этой гипотезе, поскольку базовые практические задачи — например, поиск ключей от машины — решаются одинаково как в симуляции, так и на фундаментальном уровне физической реальности. Однако в контексте его профессиональной деятельности — анализа масштабных долгосрочных прогнозов и поиска этических рычагов влияния на будущее — концепция симуляции становится важнейшим ограничивающим фактором.

Сам аргумент о симуляции, как утверждает исследователь, строго сужает спектр вероятных сценариев развития до трех взаимоисключающих вариантов:

  1. Почти все цивилизации на нашей стадии технологического развития вымирают до достижения технологической зрелости. Под «технологической зрелостью» Бостром понимает освоение всех технологий, возможность существования которых не противоречит известным законам физики, включая создание сверхмощных планетарных компьютеров. Философ классифицирует этот сценарий как пессимистический, поскольку если большинство цивилизаций гибнет на этом этапе, то и человечество, скорее всего, ждет финал.
  2. Существует жесткая конвергенция среди всех технологически зрелых цивилизаций, приводящая к тому, что они полностью теряют интерес к созданию так называемых «симуляций предков». По мнению Бострома, постчеловеческие виды, скорее всего, подвергнут себя серьезной когнитивной модификации. В результате они могут отказаться от моделирования разумных существ из-за жестких этических запретов или иных мотивов, которые нам пока трудно представить.
  3. Мы с высокой долей вероятности уже сейчас живем в компьютерной симуляции.

Бостром сознательно отказывается называть точные процентные вероятности для каждого исхода, чтобы избежать иллюзии ложной точности. Философ настаивает, что логическая структура его аргумента непоколебима: по меньшей мере один из трех предложенных вариантов обязан быть истинным.

🧠 Независимость от субстрата и цифровое сознание 6:48

Ведущий канала JRE Clips высказывает предположение, что сама концепция возможности переноса или «скачивания» сознания в компьютер практически гарантирует создание симуляций в будущем. С его точки зрения, пока процессоры обрабатывают данные, а к системе подается электричество, цифровое сознание способно существовать бесконечно долго, воспроизводя некий биологический интерфейс для взаимодействия с окружением.

Комментируя это мнение, Ник Бостром вводит ключевой тезис, лежащий в основе его логических построений — тезис о независимости от субстрата (substrate independence thesis). Согласно этой философской позиции, сознательный опыт может быть реализован на самых разных материальных носителях. Не существует жесткой привязки сознания исключительно к углеродным атомам, из которых состоит человеческий мозг.

Бостром утверждает, что феномен сознания порождается специфической структурной архитектурой выполняемых вычислений, а не материалом процессора — будь то кремний или биологические ткани. Как следствие, если высокоразвитая цивилизация детально смоделирует каждый нейрон и синапс человеческого мозга внутри компьютера, такая симуляция будет обладать подлинным, полноценным сознанием.

🎮 Оптимизация виртуальных миров и «дальность прорисовки» 10:20

Ведущий обращает внимание на лавинообразное развитие коммерческих технологий виртуальной реальности (таких как Oculus). Он подчеркивает, что всего 20 лет назад ничего подобного не существовало, а еще через 20 лет искусственная реальность может стать полностью неотличимой от осязаемого физического мира с точки зрения тактильных ощущений, запахов и вкусов. Ник Бостром дополняет, что для справедливости его аргумента точные сроки не имеют значения — это может занять как 20 лет, так и 20 миллионов лет.

При этом Бостром делится важным технологическим соображением: создание чисто цифровых симуляций с виртуальным мозгом обходится цивилизации гораздо дешевле, чем конструирование громоздких гибридных систем, где биологическое тело подключается к VR-оборудованию (как в фильме «Матрица»). Именно поэтому в масштабах развитой вселенной количество полностью цифровых реальностей должно кратно превосходить число гибридных.

Ведущий упоминает, что некоторые исследователи пытались провести сложные математические расчеты, чтобы вычислить физическую вероятность существования нашей вселенной внутри симуляции. Бостром считает, что подобные попытки рассчитать точные требования к симуляции физического мира упускают суть проблемы. Ученые часто пытаются оценить вычислительную нагрузку, необходимую для идеального моделирования каждого атома, квантовой волновой функции или сублабораторных частиц в комнате. По мнению философа, в этом нет никакой практической необходимости.

Для создания убедительной «симуляции предков» высокоразвитым программистам достаточно моделировать физические объекты лишь в той степени, в которой они непосредственно воспринимаются наблюдателем. Бостром проводит аналогию с современными компьютерными играми, где используется оптимизация «дальности прорисовки» (rendering distance) — игровой мир генерируется детально только тогда, когда персонаж приближается к нему вплотную.

В качестве примера философ приводит деревянный стол: создателям симуляции нет нужды постоянно просчитывать движение атомов внутри него. Если наблюдатель решит исследовать стол под мощным электронным или атомно-силовым микроскопом, суперкомпьютер мгновенно сгенерирует нужные атомные структуры в точке наблюдения. Такой подход колоссально снижает затраты энергии и вычислительных ресурсов, делая масштабное моделирование тривиальной задачей для постчеловечества. В качестве иллюстрации текущего прогресса систем генерации Бостром упоминает языковую модель GPT-2, которая уже на тот момент демонстрировала удивительную способность генерировать связный человекоподобный текст.

🪐 Космические масштабы и то, что скрывается за пределами матрицы 16:06

Развивая логику трилеммы, Ник Бостром объясняет, как происходит перераспределение вероятностей: если мы отвергаем сценарии неминуемого вымирания и тотальной потери интереса к технологиям, вся «масса вероятности» смещается на третий пункт — гипотезу симуляции. По оценкам исследователя, если хотя бы незначительная часть цивилизаций достигнет зрелости и сохранит желание созидать, они получат доступ к колоссальным ресурсам космического масштаба.

Используя нанотехнологии и планетарные вычислительные массивы, зрелая цивилизация сможет запускать триллионы симуляций, затрачивая на это ничтожную долю своей энергии. Бостром приводит впечатляющее гипотетическое сравнение: задействовав всего 1% вычислительной мощности одной планеты в течение одной минуты, постлюди смогут запустить тысячи симуляций с сознательными сущностями. Учитывая, что в их распоряжении могут быть миллиарды планет на протяжении миллиардов лет, количество виртуальных людей будет на много порядков превосходить число реальных биологических предков. Из этого логически следует, что любой случайно выбранный разумный агент с колоссальной вероятностью окажется цифровой моделью, а не оригиналам.

Отвечая на вопрос ведущего о знаменитой дилемме Илона Маска — «что находится за пределами симуляции?», — Бостром призывает к прагматизму. По мнению философа, гораздо важнее и полезнее сфокусироваться на вопросе о том, как нам мудро действовать в текущих обстоятельствах, чтобы прожить лучшую жизнь и принести пользу окружающим. Попытки разгадать устройство внешнего мира не выглядят абсурдными, однако наши когнитивные способности жестко ограничены.

Бостром предполагает, что создатели нашей симуляции представляют собой космическую суперцивилизацию, обладающую суперинтеллектом и способностью к колонизации вселенной. Тем не менее философ напоминает, что сам аргумент о симуляции появился сравнительно недавно — в начале XXI века, и его история насчитывает менее двадцати лет. Если на протяжении сотен лет величайшие умы человечества упускали из виду столь фундаментальный пласт устройства реальности, существует огромная вероятность того, что прямо сейчас мы остаемся слепы к другим, еще более грандиозным научным или философским откровениям, которые в будущем могут полностью перевернуть нашу интерпретацию бытия. Кроме того, Бостром допускает колоссальное разнообразие конфигураций симуляций: от долгосрочных моделей целых вселенных до коротких, локальных сценариев, сфокусированных на конкретной исторической сцене или отдельном человеке.

💬 Цитаты

«Что создает сознательный опыт, так это некая структурная особенность выполняемых вычислений, а не материал, который используется для ее поддержки.»

Ник Бостром 08:35

«По меньшей мере один из этих трех вариантов должен быть истинным.»

Ник Бостром 09:54
👥 Спикеры
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Независимость от субстрата
Философское утверждение, что сознание может быть реализовано не только на биологической основе, но и на искусственной, например на кремниевых чипах.
Дальность прорисовки
Метод оптимизации в компьютерной графике, при котором объекты детально отображаются только на определенном расстоянии от наблюдателя.
Симуляция предков
Подробная компьютерная модель прошлых поколений или исторических эпох, населенная разумными цифровыми существами.
📊 Цифры
⚖️ Другая сторона
Наука Ник Бостром трилемма Бострома JRE Clips GPT-2