# Ник Бостром: «Искусственный интеллект — наш портал в будущее»

Источник: https://www.youtube.com/watch?v=j7Bfau-fyE8
Канал: Event Horizon
Опубликовано: 08.09.2022

---

## В поисках великого молчания: Ник Бостром о будущем, симуляциях и экзистенциальных угрозах
[[JUMP:0:30]]

Философ из Оксфордского университета Ник Бостром, известный своими исследованиями экзистенциальных рисков и искусственного интеллекта, обсудил с Джоном Майклом Годье в рамках шоу «Event Horizon» ключевые угрозы, стоящие перед человечеством. В центре дискуссии оказались парадокс Ферми, гипотеза симуляции и концепция технологического развития как «урны с шарами», среди которых может скрываться фатальный черный шар.

### Парадокс Ферми и великое молчание
[[JUMP:3:34]]

Ник Бостром полагает, что парадокс Ферми — отсутствие признаков внеземных цивилизаций в наблюдаемой Вселенной — не является неразрешимой загадкой. По его мнению, вероятность возникновения технологически развитой жизни на любой отдельной планете может быть крайне низкой.

*   **Гипотеза редкой жизни:** Даже если Вселенная бесконечна, что подтверждается данными о её плоской геометрии, разумная жизнь может быть крайне распределена во времени и пространстве.
*   **Антропный принцип:** Мы не можем делать выводы о распространенности жизни, основываясь только на собственном существовании. Любой наблюдатель неизбежно обнаружит себя в месте, где жизнь возникла, даже если это событие маловероятно.
*   **Конкуренция:** Человеческая цивилизация склонна к гонке вооружений и развитию технологий независимо от их опасности, что, вероятно, свойственно и другим цивилизациям.

### Вселенная как компьютерная симуляция
[[JUMP:7:17]]

Рассуждая о гипотезе симуляции, Бостром отмечает, что для создания иллюзии «бесконечной» Вселенной вовсе не требуются бесконечные ресурсы. Достаточно реализовать сложную симуляцию лишь в непосредственной близости от наблюдателя, постепенно снижая разрешение по мере удаления от него.

*   **Аргумент симуляции:** Если человечество достигнет технологической зрелости и начнет создавать симуляции предков, вероятность того, что мы сами живем в симуляции, резко возрастает.
*   **Тестируемость:** Мы могли бы получить доказательства симуляции через прямое «объявление» системы или по мере нашего собственного прогресса в создании виртуальных сознаний.
*   **Боцмановские мозги:** Гипотетическая случайная флуктуация материи, осознающая себя, скорее всего, обладала бы хаотичным и минимальным опытом, а не структурированным сознанием, подобным человеческому.

### Угроза «Черного шара» и управление технологиями
[[JUMP:43:36]]

Бостром вводит метафору «урны с изобретениями» для описания технологического развития. Пока человечество извлекало из неё преимущественно «белые» или «серые» шары, но существует риск вытянуть «черный» — технологию, способную уничтожить цивилизацию сразу после её открытия.

*   **Проблема контроля:** Мы не можем «разизобрести» технологии. В отличие от ядерной физики, где после Хиросимы сформировалась культура осторожности, в современной синтетической биологии доминирует идеал открытости и демократизации доступа, что, по мнению Бострома, крайне опасно.
*   **Роль Синглетона:** Единая глобальная структура управления (Синглетон) могла бы наложить этические запреты на создание определенных симуляций или опасных исследований. Однако успех такого сценария зависит от возможности «конвергенции» — достижения консенсуса всеми участниками, что в условиях текущей геополитической раздробленности кажется затруднительным.
*   **ИИ как двусторонний меч:** Бостром признает, что развитие сверхразумного ИИ сопряжено с огромным риском, но именно этот путь может стать ключом к решению других экзистенциальных угроз и обеспечению достойного будущего для человечества.

Главный вызов, по мнению философа, заключается в необходимости максимально использовать имеющееся время для «настройки» траектории нашего развития, чтобы этот переход прошел успешно.