В новом эпизоде подкаста Eye on AI ведущий Крейг Смит беседует с Ником Бостромом, профессором Оксфордского университета и автором мирового бестселлера «Искусственный интеллект. Этапы, угрозы, стратегии». Спустя десять лет после выхода своей главной книги, Бостром представляет новую работу — «Deep Utopia» («Глубокая утопия»), в которой исследует экзистенциальные вызовы мира, где ИИ превзошел человека во всём: от экономики до творчества.
📈 От маргинальной теории до мейнстрима: эволюция ИИ с 2014 года 2:59
Ник Бостром отмечает, что со времени публикации его книги «Суперинтеллект» в 2014 году отношение к ИИ в академических и правительственных кругах радикально изменилось . Если десять лет назад идея о том, что машины смогут выполнять любые человеческие задачи, считалась научной фантастикой или праздными спекуляциями, то сегодня это стало общепринятым прогнозом.
Основные изменения в ландшафте ИИ, по мнению Ника Бострома:
- Институционализация безопасности: Ведущие лаборатории мира (такие как OpenAI и Google DeepMind) создали отделы по «выравниванию» (alignment) ИИ, чтобы контролировать системы произвольного уровня мощности .
- Внимание политиков: Экзистенциальные риски обсуждаются на уровне Белого дома и глобальных саммитов (например, в Великобритании), что было немыслимо в 2014 году .
- Антропоморфизм моделей: Современные большие языковые модели демонстрируют подобие «человеческой психологии». Бостром замечает, что иногда их нужно «подбадривать» в промптах, чтобы они работали лучше, что сильно отличается от старого подхода к ИИ как к сухим алгоритмам .
- Ускорение темпов: Хотя развитие кажется постепенным, Бостром не исключает «взрыва интеллекта», когда ИИ сможет полностью заменить людей в разработке чипов и исследовании самого ИИ, создав мощную петлю обратной связи .
Говоря об опасениях общества, Ник Бостром признает риск «перелета» в сторону тревоги . По его мнению, хотя экзистенциальные риски реальны, существует опасность введения слишком жестких мораториев. Это может привести к тому, что человечество уничтожит себя другим способом, так и не успев воспользоваться преимуществами ИИ .
🏗️ Концепция «решённого мира» и пост-инструментальная эра 12:51
Центральная тема новой книги Бострома — жизнь в условиях «технологической зрелости». Это состояние, при котором все физически возможные и принципиально осуществимые технологии уже разработаны суперинтеллектом . Бостром называет это «решённым миром».
В таком мире исчезает необходимость в инструментальном труде — действиях, которые мы совершаем не ради удовольствия, а ради достижения результата.
Примеры исчезновения инструментальных задач по Бострому:
- Фитнес: Если появится таблетка, дающая те же физиологические эффекты, что и поход в зал, смысл тренировок будет подорван .
- Шопинг: Системы рекомендаций смогут выбирать вещи лучше, чем человек. Самостоятельный поиск товаров станет неэффективным и потеряет привлекательность .
- Бытовая рутина: Даже такие мелочи, как чистка зубов (в примере с Биллом Гейтсом), могут быть автоматизированы или стать ненужными благодаря нанотехнологиям .
Ник Бостром утверждает, что инструментальные ограничения сейчас служат своего рода «экзоскелетом для наших душ» . Если этот скелет убрать, позволив ИИ делать всё за нас, человечество рискует превратиться в «пузыри удовольствия» (pleasure blobs) — существ, живущих в бесконечном кайфе без структуры и усилий .
🧠 Нейротехнологии и «взлом» счастья 19:55
Крейг Смит выражает опасение: если мир будет «технологически решён», у людей пропадет мотивация даже к обучению, которое само по себе является трудоемким процессом . Бостром соглашается, но идет дальше, предполагая, что в утопии обучение тоже будет автоматизировано.
Технологические «короткие пути» к знаниям и состоянию духа:
- Загрузка знаний: Вместо 20 лет учебы суперинтеллект может напрямую изменять веса синапсов в мозге через нейроинтерфейсы или наноботов .
- Инженерия настроения: Бостром полагает, что суперинтеллект позволит управлять нейрохимией мозга с помощью «супер-лекарств», не вызывающих привыкания, или прямой стимуляции зон удовольствия .
- Панель управления собой: Человек будущего сможет настраивать уровень своей мотивации и счастья буквально «поворачивая ручки» на панели управления своей психикой .
Философ сравнивает это состояние с работой ускорителя частиц: в экстремальных условиях технологической утопии наши базовые ценности «сталкиваются» друг с другом, позволяя увидеть их истинную природу, подобно кваркам .
🌌 «Звездное небо» тихих ценностей 28:50
Несмотря на риск превращения в гедонистических «пузырей», Ник Бостром сохраняет оптимизм. Он считает, что когда «кричащие моральные императивы» (необходимость выживать, кормить голодных, лечить болезни) утихнут, человечество сможет заметить более тонкие ценности .
Он использует аналогию: «Когда вы выходите ночью на улицу, ваши зрачки расширяются, и вы видите огромное звездное небо. Оно было там всегда, но вы не замечали его из-за слепящего солнца» . «Солнце» здесь — это повседневная борьба за существование.
Ценности, которые могут наполнить жизнь в утопии:
- Эстетика и искусство: Чистое созерцание и творчество ради творчества.
- Человеческий фактор: Преференции на «человеческое исполнение». Бостром приводит в пример спорт: нам интересно смотреть на состязание людей, а не роботов .
- Традиции: Ритуалы и церемонии, которые имеют смысл только в том случае, если их проводят люди, а не запрограммированные машины .
Бостром утверждает, что избавление от ужасов нынешнего состояния (рака, голода, смерти близких в автокатастрофах) само по себе станет величайшим благом для человечества .
⏳ Долголетие и смысл в переходный период 40:24
Обсуждая вопросы демографии и радикального продления жизни, Бостром оспаривает мнение, что жизнь до 200 или 500 лет станет скучной. Он считает, что современный предел в 80 лет не является оптимальным — люди только начинают обретать мудрость, когда их тело начинает «гнить» .
Мысли Бострома о будущем человечества:
- Разнообразие разумов: Мы будем делить мир с цифровыми умами и «поднятыми» (uplifted) животными, чей интеллект будет усилен .
- Реформа образования: В переходный период, когда роботы заберут работу, но мир еще не станет «пластичным», школы должны перестать быть «фабриками по подготовке рабочих» .
- Искусство жить: Образование должно сосредоточиться на обучении людей тому, как наслаждаться природой, развивать глубокие отношения и заниматься духовными практиками .
На вопрос о личной мотивации Ник Бостром отвечает, что страдает скорее от нехватки времени, чем от отсутствия смысла . Тем, кто чувствует экзистенциальную апатию сегодня, он советует искать причину либо в плохих жизненных обстоятельствах, либо в биологии (состоянии здоровья и гормонов), либо в отсутствии сообщества и духовных ориентиров .
Бостром заключает, что люди будущего, вероятно, будут смотреть на 2024 год одновременно с ужасом (из-за того, через что нам приходится проходить) и с трепетом — ведь именно наши решения сейчас определяют облик будущего до самого теплового конца Вселенной .
