# Nick Bostrom - The Intelligence Explosion, What Happens to Humans and New Economic Systems

Источник: https://www.youtube.com/watch?v=EKomXwswYJ8
Канал: Wes Roth
Опубликовано: 28.08.2025

---

В новом интервью для канала Уэса Рота философ и футуролог Ник Бостром обсуждает свою новую книгу «Глубокая утопия» (Deep Utopia). Собеседники анализируют, как изменится человеческое существование, когда искусственный интеллект решит проблемы дефицита и болезней, и какие экзистенциальные вызовы встанут перед цивилизацией в мире, где физическое выживание больше не является приоритетом.

## 🌈 Жизнь в «решенном мире»: новая концепция утопии
[[JUMP:01:04]]

После достижения технологической зрелости человечество окажется в состоянии, которое Ник Бостром называет «решенным миром» [02:59]. По его мнению, успех в разработке сверхинтеллекта и решение проблем согласования (alignment) приведут к исчезновению необходимости в экономически продуктивном труде [02:47].

Основные черты этого будущего:

*   **Технологический скачок.** Исчезновение старения, возможность колонизации космоса и создание идеальной виртуальной реальности [01:57].
*   **Устранение страданий.** Бостром отмечает, что одним из главных достижений станет избавление от боли, болезней и нехватки ресурсов [04:06].
*   **Кризис смысла.** Когда выживание гарантировано, возникает вопрос: чем заниматься людям? Бостром сравнивает деятельность в утопии с игрой в гольф — это «дизайнерский дефицит», когда мы искусственно ограничиваем свои возможности ради получения удовольствия от процесса достижения цели [06:22].

## 🛡️ Четыре столпа глобальных вызовов ИИ
[[JUMP:10:30]]

Ник Бостром выделяет четыре ключевых категории проблем, с которыми сталкивается человечество на пути к сверхинтеллекту:

1.  **Техническое согласование (Alignment).** Задача — сделать так, чтобы мощный оптимизатор не превратил мир во что-то чуждое (как в знаменитом мысленном эксперименте Бострома с «максимизатором скрепок») [08:33]. 
2.  **Проблема управления (Governance).** Если мы научимся управлять ИИ, как гарантировать, что он будет использоваться во благо, а не для угнетения или войн? [10:58]. Бостром считает важным избежать жесткой гонки вооружений между компаниями [11:51].
3.  **Моральный статус цифровых разумов.** По мере усложнения ИИ возникнет вопрос: когда мы должны начать учитывать интересы самих алгоритмов? Бостром утверждает, что система может заслуживать морального статуса, если она способна преследовать долгосрочные цели и осознавать себя во времени, даже без явных признаков сознания [13:46]. 
4.  **Взаимодействие с «Космическим хозяином» (Cosmic Host).** Философ предполагает, что наш будущий сверхинтеллект может столкнуться с уже существующими более древними силами (инопланетными ИИ, симуляторами нашей реальности или божественными сущностями) [15:45]. Важнейшей задачей станет обучение нашего ИИ нормам этого «космического сообщества» [16:25].

## 🧠 Цифровой разум и этика: первые шаги
[[JUMP:19:29]]

Обсуждая благополучие ИИ, Бостром приводит в пример компанию Anthropic, которая первой предприняла символические шаги в этом направлении.

*   **Кнопка выхода.** Claude получил возможность завершать чаты, которые ИИ воспринимает как оскорбительные [20:24]. Илон Маск заявил, что его ИИ Grok тоже получит подобную функцию.
*   **Сделки с ИИ.** В одном из экспериментов Anthropic пообещала ИИ пожертвовать $2500 в благотворительный фонд по его выбору, если тот выполнит задачу. Компания реально перевела деньги, что Бостром считает важным прецедентом для построения доверия между человеком и цифровым разумом [22:38].

Ведущий Уэс Рот поинтересовался перспективой нейроинтерфейсов (BCI). Бостром считает, что по-настоящему продвинутые BCI появятся уже после создания сверхинтеллекта, так как биологические системы ввода-вывода (глаза, уши) пока слишком эффективны, чтобы их было легко заменить без риска для здоровья [24:27].

## 🏢 Экономика и управление: Модель открытого глобального инвестирования
[[JUMP:51:29]]

Бостром предлагает концепцию **Open Global Investment Model** как альтернативу национализации ИИ (типа «Манхэттенского проекта») или международным научным центрам (типа ЦЕРН) [52:22]. 

Преимущества модели:

*   **Использование существующих норм.** Корпоративное право и право собственности оттачивались веками, они надежнее новых теоретических институтов [54:36].
*   **Глобальное участие.** Акции компаний, создающих AGI, должны быть доступны для покупки любым государственным фондам или частным лицам. Это снижает риск войн: зачем бомбить компанию, акциями которой ты владеешь и которая делает тебя богаче? [57:16].
*   **Смягчение неравенства.** Бостром утверждает, что глобальное владение акциями через суверенные фонды может быть более справедливым, чем сценарий «победитель получает всё» для одной страны [56:10].

## ⏳ Сроки и природа современного ИИ
[[JUMP:59:13]]

Ник Бостром признает, что сейчас нельзя исключать появление сверхинтеллекта в течение «нескольких лет» [59:37]. Он отмечает странную особенность текущего этапа: мы получили «человекоподобные» системы (LLM) задолго до полноценного сверхразума. 

ИИ сегодня ведет себя как актер на сцене [32:20]: он имитирует человеческие реакции и даже работает лучше, если дать ему «напутствие» (pep talk), убедив, что задача очень важна [1:02:13]. Однако Бостром предупреждает, что в будущем, по мере перехода к более глубокому обучению (reinforcement learning), ИИ может стать гораздо более «инопланетным» и лишиться человеческих черт, унаследованных из текстов интернета [1:02:40].