В поисках великого молчания: Ник Бостром о будущем, симуляциях и экзистенциальных угрозах 0:30
Философ из Оксфордского университета Ник Бостром, известный своими исследованиями экзистенциальных рисков и искусственного интеллекта, обсудил с Джоном Майклом Годье в рамках шоу «Event Horizon» ключевые угрозы, стоящие перед человечеством. В центре дискуссии оказались парадокс Ферми, гипотеза симуляции и концепция технологического развития как «урны с шарами», среди которых может скрываться фатальный черный шар.
Парадокс Ферми и великое молчание 3:34
Ник Бостром полагает, что парадокс Ферми — отсутствие признаков внеземных цивилизаций в наблюдаемой Вселенной — не является неразрешимой загадкой. По его мнению, вероятность возникновения технологически развитой жизни на любой отдельной планете может быть крайне низкой.
- Гипотеза редкой жизни: Даже если Вселенная бесконечна, что подтверждается данными о её плоской геометрии, разумная жизнь может быть крайне распределена во времени и пространстве.
- Антропный принцип: Мы не можем делать выводы о распространенности жизни, основываясь только на собственном существовании. Любой наблюдатель неизбежно обнаружит себя в месте, где жизнь возникла, даже если это событие маловероятно.
- Конкуренция: Человеческая цивилизация склонна к гонке вооружений и развитию технологий независимо от их опасности, что, вероятно, свойственно и другим цивилизациям.
Вселенная как компьютерная симуляция 7:17
Рассуждая о гипотезе симуляции, Бостром отмечает, что для создания иллюзии «бесконечной» Вселенной вовсе не требуются бесконечные ресурсы. Достаточно реализовать сложную симуляцию лишь в непосредственной близости от наблюдателя, постепенно снижая разрешение по мере удаления от него.
- Аргумент симуляции: Если человечество достигнет технологической зрелости и начнет создавать симуляции предков, вероятность того, что мы сами живем в симуляции, резко возрастает.
- Тестируемость: Мы могли бы получить доказательства симуляции через прямое «объявление» системы или по мере нашего собственного прогресса в создании виртуальных сознаний.
- Боцмановские мозги: Гипотетическая случайная флуктуация материи, осознающая себя, скорее всего, обладала бы хаотичным и минимальным опытом, а не структурированным сознанием, подобным человеческому.
Угроза «Черного шара» и управление технологиями 43:36
Бостром вводит метафору «урны с изобретениями» для описания технологического развития. Пока человечество извлекало из неё преимущественно «белые» или «серые» шары, но существует риск вытянуть «черный» — технологию, способную уничтожить цивилизацию сразу после её открытия.
- Проблема контроля: Мы не можем «разизобрести» технологии. В отличие от ядерной физики, где после Хиросимы сформировалась культура осторожности, в современной синтетической биологии доминирует идеал открытости и демократизации доступа, что, по мнению Бострома, крайне опасно.
- Роль Синглетона: Единая глобальная структура управления (Синглетон) могла бы наложить этические запреты на создание определенных симуляций или опасных исследований. Однако успех такого сценария зависит от возможности «конвергенции» — достижения консенсуса всеми участниками, что в условиях текущей геополитической раздробленности кажется затруднительным.
- ИИ как двусторонний меч: Бостром признает, что развитие сверхразумного ИИ сопряжено с огромным риском, но именно этот путь может стать ключом к решению других экзистенциальных угроз и обеспечению достойного будущего для человечества.
Главный вызов, по мнению философа, заключается в необходимости максимально использовать имеющееся время для «настройки» траектории нашего развития, чтобы этот переход прошел успешно.
