# Ник Бостром: «Инструментальные задачи — это экзоскелет для нашей души»

Источник: https://www.youtube.com/watch?v=yK2EkM6xlKY
Канал: Eye on AI
Опубликовано: 14.04.2024

---

В новом эпизоде подкаста **Eye on AI** ведущий Крейг Смит беседует с **Ником Бостромом**, профессором Оксфордского университета и автором мирового бестселлера «Искусственный интеллект. Этапы, угрозы, стратегии». Спустя десять лет после выхода своей главной книги, Бостром представляет новую работу — «Deep Utopia» («Глубокая утопия»), в которой исследует экзистенциальные вызовы мира, где ИИ превзошел человека во всём: от экономики до творчества.

## 📈 От маргинальной теории до мейнстрима: эволюция ИИ с 2014 года
[[JUMP:02:59]]

Ник Бостром отмечает, что со времени публикации его книги «Суперинтеллект» в 2014 году отношение к ИИ в академических и правительственных кругах радикально изменилось [04:35]. Если десять лет назад идея о том, что машины смогут выполнять любые человеческие задачи, считалась научной фантастикой или праздными спекуляциями, то сегодня это стало общепринятым прогнозом.

Основные изменения в ландшафте ИИ, по мнению Ника Бострома:

*   **Институционализация безопасности:** Ведущие лаборатории мира (такие как OpenAI и Google DeepMind) создали отделы по «выравниванию» (alignment) ИИ, чтобы контролировать системы произвольного уровня мощности [05:15].
*   **Внимание политиков:** Экзистенциальные риски обсуждаются на уровне Белого дома и глобальных саммитов (например, в Великобритании), что было немыслимо в 2014 году [05:28].
*   **Антропоморфизм моделей:** Современные большие языковые модели демонстрируют подобие «человеческой психологии». Бостром замечает, что иногда их нужно «подбадривать» в промптах, чтобы они работали лучше, что сильно отличается от старого подхода к ИИ как к сухим алгоритмам [06:48].
*   **Ускорение темпов:** Хотя развитие кажется постепенным, Бостром не исключает «взрыва интеллекта», когда ИИ сможет полностью заменить людей в разработке чипов и исследовании самого ИИ, создав мощную петлю обратной связи [09:41].

Говоря об опасениях общества, Ник Бостром признает риск «перелета» в сторону тревоги [11:28]. По его мнению, хотя экзистенциальные риски реальны, существует опасность введения слишком жестких мораториев. Это может привести к тому, что человечество уничтожит себя другим способом, так и не успев воспользоваться преимуществами ИИ [12:08].

## 🏗️ Концепция «решённого мира» и пост-инструментальная эра
[[JUMP:12:51]]

Центральная тема новой книги Бострома — жизнь в условиях «технологической зрелости». Это состояние, при котором все физически возможные и принципиально осуществимые технологии уже разработаны суперинтеллектом [20:40]. Бостром называет это «решённым миром».

В таком мире исчезает необходимость в **инструментальном труде** — действиях, которые мы совершаем не ради удовольствия, а ради достижения результата.

Примеры исчезновения инструментальных задач по Бострому:

*   **Фитнес:** Если появится таблетка, дающая те же физиологические эффекты, что и поход в зал, смысл тренировок будет подорван [17:12].
*   **Шопинг:** Системы рекомендаций смогут выбирать вещи лучше, чем человек. Самостоятельный поиск товаров станет неэффективным и потеряет привлекательность [17:26].
*   **Бытовая рутина:** Даже такие мелочи, как чистка зубов (в примере с Биллом Гейтсом), могут быть автоматизированы или стать ненужными благодаря нанотехнологиям [16:07].

Ник Бостром утверждает, что инструментальные ограничения сейчас служат своего рода «экзоскелетом для наших душ» [24:37]. Если этот скелет убрать, позволив ИИ делать всё за нас, человечество рискует превратиться в «пузыри удовольствия» (pleasure blobs) — существ, живущих в бесконечном кайфе без структуры и усилий [24:50].

## 🧠 Нейротехнологии и «взлом» счастья
[[JUMP:19:55]]

Крейг Смит выражает опасение: если мир будет «технологически решён», у людей пропадет мотивация даже к обучению, которое само по себе является трудоемким процессом [19:04]. Бостром соглашается, но идет дальше, предполагая, что в утопии обучение тоже будет автоматизировано.

Технологические «короткие пути» к знаниям и состоянию духа:

*   **Загрузка знаний:** Вместо 20 лет учебы суперинтеллект может напрямую изменять веса синапсов в мозге через нейроинтерфейсы или наноботов [21:46].
*   **Инженерия настроения:** Бостром полагает, что суперинтеллект позволит управлять нейрохимией мозга с помощью «супер-лекарств», не вызывающих привыкания, или прямой стимуляции зон удовольствия [26:25].
*   **Панель управления собой:** Человек будущего сможет настраивать уровень своей мотивации и счастья буквально «поворачивая ручки» на панели управления своей психикой [37:39].

Философ сравнивает это состояние с работой ускорителя частиц: в экстремальных условиях технологической утопии наши базовые ценности «сталкиваются» друг с другом, позволяя увидеть их истинную природу, подобно кваркам [27:18].

## 🌌 «Звездное небо» тихих ценностей
[[JUMP:28:50]]

Несмотря на риск превращения в гедонистических «пузырей», Ник Бостром сохраняет оптимизм. Он считает, что когда «кричащие моральные императивы» (необходимость выживать, кормить голодных, лечить болезни) утихнут, человечество сможет заметить более тонкие ценности [34:34].

Он использует аналогию: «Когда вы выходите ночью на улицу, ваши зрачки расширяются, и вы видите огромное звездное небо. Оно было там всегда, но вы не замечали его из-за слепящего солнца» [35:01]. «Солнце» здесь — это повседневная борьба за существование.

Ценности, которые могут наполнить жизнь в утопии:

1.  **Эстетика и искусство:** Чистое созерцание и творчество ради творчества.
2.  **Человеческий фактор:** Преференции на «человеческое исполнение». Бостром приводит в пример спорт: нам интересно смотреть на состязание людей, а не роботов [32:51].
3.  **Традиции:** Ритуалы и церемонии, которые имеют смысл только в том случае, если их проводят люди, а не запрограммированные машины [33:44].

Бостром утверждает, что избавление от ужасов нынешнего состояния (рака, голода, смерти близких в автокатастрофах) само по себе станет величайшим благом для человечества [29:43].

## ⏳ Долголетие и смысл в переходный период
[[JUMP:40:24]]

Обсуждая вопросы демографии и радикального продления жизни, Бостром оспаривает мнение, что жизнь до 200 или 500 лет станет скучной. Он считает, что современный предел в 80 лет не является оптимальным — люди только начинают обретать мудрость, когда их тело начинает «гнить» [43:19].

Мысли Бострома о будущем человечества:

*   **Разнообразие разумов:** Мы будем делить мир с цифровыми умами и «поднятыми» (uplifted) животными, чей интеллект будет усилен [42:11].
*   **Реформа образования:** В переходный период, когда роботы заберут работу, но мир еще не станет «пластичным», школы должны перестать быть «фабриками по подготовке рабочих» [48:44].
*   **Искусство жить:** Образование должно сосредоточиться на обучении людей тому, как наслаждаться природой, развивать глубокие отношения и заниматься духовными практиками [49:24].

На вопрос о личной мотивации Ник Бостром отвечает, что страдает скорее от нехватки времени, чем от отсутствия смысла [52:16]. Тем, кто чувствует экзистенциальную апатию сегодня, он советует искать причину либо в плохих жизненных обстоятельствах, либо в биологии (состоянии здоровья и гормонов), либо в отсутствии сообщества и духовных ориентиров [53:38].

Бостром заключает, что люди будущего, вероятно, будут смотреть на 2024 год одновременно с ужасом (из-за того, через что нам приходится проходить) и с трепетом — ведь именно наши решения сейчас определяют облик будущего до самого теплового конца Вселенной [46:09].