В новом эпизоде подкаста Clearer Thinking философ Ник Бостром обсуждает свою последнюю книгу «Глубокая утопия: жизнь и смысл в решенном мире» (Deep Utopia: Life and Meaning in a Solved World). Собеседники исследуют парадокс: почему человечеству так трудно вообразить позитивное будущее и как найти смысл жизни в мире, где искусственный интеллект (ИИ) решил все материальные и интеллектуальные задачи.
🦋 Экзоскелет необходимости: почему утопии кажутся скучными 3:24
Ник Бостром отмечает странную закономерность: в культуре существует множество ярких дистопий («О дивный новый мир», «1984», «Рассказ служанки»), но почти нет убедительных утопий . По его мнению, это связано с тем, что наше текущее понимание ценностей неразрывно связано с преодолением трудностей.
- Инструментальный экзоскелет: Бостром использует метафору насекомого, чьи мягкие ткани поддерживаются жестким панцирем. Для человека таким «экзоскелетом» являются инструментальные необходимости: нужно зарабатывать деньги, лечить болезни, чистить зубы .
- Утрата формы: Если убрать эти внешние требования (достичь «пост-инструментального состояния»), возникает риск того, что человеческая личность («душа») потеряет структуру и превратится в «блаженную каплю удовольствия» .
- Парадокс изобилия: Исторически утопии сводились к материальному достатку. Однако современное общество уже обладает ресурсами, которые показались бы средневековому крестьянину райскими, но это не сделало людей абсолютно счастливыми .
Спенсер Гринберг добавляет, что люди легче соглашаются с тем, чего они не хотят (бедность, болезни), чем с тем, какой финал развития был бы идеальным .
🏎️ Ловушка потребления и «решенный мир» 12:14
Несмотря на рост производительности, предсказанный Джоном Мейнардом Кейнсом еще 100 лет назад, люди не стали работать радикально меньше . Бостром анализирует причины этого явления:
- Победа жадности над ленью: Вместо того чтобы конвертировать продуктивность в досуг, человечество выбрало рост потребления .
- Позиционные блага: Значительная часть ресурсов тратится на «гонку вооружений» в статусе — покупку более дорогих машин или яхт, чтобы превзойти соседа. Это игра с нулевой суммой: если у всех будут супер-яхты, никто не будет чувствовать себя победителем .
- Полная безработица: В «решенном мире» (solved world) ИИ делает всё дешевле и лучше человека. По мнению Ника Бострома, это неизбежно приведет к состоянию, близкому к полной технологической безработице .
🎭 Искусственные цели и «тихие ценности» 17:14
Основной вызов утопии — потеря смысла (purpose). Если ИИ может написать картину, построить дом или решить уравнение мгновенно, зачем это делать человеку? Ник Бостром предлагает несколько уровней решения этой проблемы:
Искусственные цели (Artificial Purpose)
Мы уже практикуем это в играх. Гольф — это сознательное создание препятствий: нужно загнать шарик в лунку максимально неудобным способом (клюшкой), хотя можно было бы принести его рукой . В утопии люди будут добровольно принимать ограничения на использование технологий, чтобы сохранить ценность деятельности .
Публичные и социальные смыслы
Смысл может сохраняться через обязательства перед другими людьми. Даже если ИИ может написать свадебную речь лучше вас, ваш друг хочет услышать именно ваше мнение и ваши усилия .
«Тихие ценности»
Бостром сравнивает нашу текущую жизнь с солнечным днем, когда из-за яркого света не видно звезд. «Громкие» ценности сегодня — это борьба с несправедливостью, голодом и болезнями . В утопии, когда эти проблемы исчезнут, проявятся «тихие» или «тонкие» ценности:
- Эстетическое созерцание красоты .
- Сложные формы познания истины.
- Соблюдение традиций и почитание предков .
- Жизнь как произведение искусства .
🤖 Проблема цифровых спутников и этика машин 38:44
Спенсер Гринберг выражает опасение: если ИИ станет идеальным социальным компаньоном, не откажутся ли люди от общения друг с другом? .
Бостром считает, что это сложный вопрос:
- Реакция отторжения: Многим идея замены людей роботами кажется отвратительной (yak reaction), но это может быть лишь предубеждением нашего поколения .
- Сознание: Для Гринберга критически важно, обладает ли собеседник внутренним опытом . Бостром же допускает, что цифровые умы будущего могут быть сознательными и иметь моральный статус, что делает их полноценными членами общества .
⚖️ Риски: Глобальная координация и тотальная слежка 47:12
Переход к утопии требует решения трех фундаментальных задач: проблемы согласования (alignment), проблемы управления (governance) и этики цифровых умов .
Ник Бостром выделяет следующие угрозы и сценарии:
- «Свободная метка» (Freedom Tag): В своей работе «Гипотеза уязвимого мира» Бостром описывал гипотетическое устройство для тотальной слежки . Хотя концепция звучит пугающе и Оруэлловски, он отмечает, что ИИ уже сегодня позволяет проводить массовый анализ настроений и поведения .
- Синглтон (Singleton): Это гипотетический мировой порядок с единым уровнем координации. Он может возникнуть либо через доминирование одного игрока после прорыва в ИИ, либо через добровольное глобальное сотрудничество .
- Мир без преступности: С одной стороны, прозрачность может привести к диктатуре «правильного мышления» и социальным рейтингам . С другой — она может создать мир без преступности и фрода, где каждый дорожит своей репутацией, как в маленькой общине или кибуце .
🌌 Симуляция и метаэтика 1:01:32
Обсуждая знаменитую «Теорию симуляции», Бостром признает, что за 20 лет его уверенность в ней немного выросла благодаря прогрессу виртуальной реальности и ИИ . Это убеждение внушает ему «эпистемическое смирение» — осознание того, что мы знаем очень мало о подлинной природе реальности и своем месте в ней .
В вопросах морали Ник Бостром предлагает концепцию Морского Парламента (Moral Parliament):
- Вместо того чтобы следовать одной теории (например, утилитаризму), нужно распределить «места» в воображаемом парламенте между разными этическими теориями пропорционально их вероятности .
- При принятии решений теории должны договариваться. Это помогает избежать фанатизма и учитывать интересы даже тех концепций, которые кажутся менее вероятными, но крайне важны в определенных ситуациях .
