# Стивен Новелла о будущем: «Мы переоцениваем прогресс на 10 лет и недооцениваем на 50»

Источник: https://www.youtube.com/watch?v=G3ajo2jE1y0
Канал: Talks at Google
Опубликовано: 25.10.2022

---

В штаб-квартире Google прошла встреча с авторами популярного подкаста «The Skeptics' Guide to the Universe» — братьями Стивеном, Джеем и Бобом Новелла. Темой обсуждения стала их новая книга «The Skeptics' Guide to the Future», в которой авторы анализируют ошибки футуристов прошлого и пытаются составить реалистичный дорожный карту технологического развития человечества.

## 🤖 Искусственный интеллект: от киношных страхов к реальности
[[JUMP:04:50]]

Обсуждение будущего невозможно без темы искусственного интеллекта (ИИ). Стивен Новелла отмечает, что наши представления об ИИ десятилетиями формировались под влиянием поп-культуры и кинематографа. В качестве примера он приводит фильм 1970 года «Колос: Проект Форбина», где компьютерная система, взяв под контроль ядерный арсенал, мгновенно захватывает мир [06:35].

Основные тезисы участников об эволюции ИИ:

*   **Крах прогнозов о сознании:** В 70-х и 80-х годах эксперты верили, что мы находимся на «короткой дистанции» к созданию общего ИИ (AGI), обладающего самосознанием. Стивен Новелла подчеркивает, что спустя 20 лет после символичной даты «2001: Космическая одиссея» человечество всё еще бесконечно далеко от воспроизведения уровня сознания HAL 9000 [10:05].
*   **Триумф «узкого» ИИ:** Главный сдвиг парадигмы последних лет заключается в том, что «узкий» (narrow) ИИ — алгоритмы, решающие одну конкретную задачу (игра в го, вождение автомобиля, генерация изображений), — оказался намного мощнее, чем предполагалось. Стивен задается вопросом: нужно ли нам вообще делать ИИ самосознающим, если узкие системы уже справляются с задачами лучше людей [10:47]?
*   **Риск «черного ящика»:** Боб Новелла обращает внимание на проблему эволюционных алгоритмов. Мы получаем результаты, которые работают, но зачастую не понимаем, как именно ИИ пришел к этому решению. Этот эффект «черного ящика» будет только усиливаться [29:44].
*   **Сингулярность и рекурсия:** Джей Новелла выражает опасения по поводу возможного «взрыва интеллекта», когда ИИ начнет проектировать новые версии ИИ без участия человека. Это может привести к технологической сингулярности уже при нашей жизни [29:03].

## 📉 Ошибки футуризма: почему мы промахиваемся
[[JUMP:19:08]]

Авторы вывели несколько «заблуждений футуризма», которые мешают нам адекватно оценивать грядущие перемены.

1.  **Линейное смещение:** Люди склонны переоценивать краткосрочный прогресс и недооценивать долгосрочный [19:21]. В 2010-х казалось, что беспилотные автомобили заполнят улицы к 2020 году, но решение оставшихся 5% проблем (особенно безопасности) потребовало гораздо больше времени, чем первые 95% [17:14].
2.  **Игнорирование инфраструктуры и психологии:** Технология может быть совершенной, но провалиться из-за социальных факторов. Пример — Segway: технически безупречное устройство не взлетело, так как под него не была подстроена городская среда, а пользователи чувствовали себя «нелепо» (dorky) во время езды [37:30].
3.  **Непредсказуемость «киллер-фич»:** Стивен Новелла напоминает, что никто не предсказал популярность текстовых сообщений (SMS) [39:02]. Все футуристы рисовали видеотелефоны как основной способ связи, однако люди предпочли асинхронное текстовое общение, так как оно требует меньше социальной энергии [39:53].

## 🔋 Энергетика и материаловедение: невидимая революция
[[JUMP:45:32]]

Братья Новелла подчеркивают, что настоящий прогресс часто происходит в «непривлекательных» сферах, таких как материаловедение или химия. По мнению Стивена, современный мир построен именно на достижениях химиков, а не только на «единицах и нулях» [45:58].

*   **Ядерный синтез:** Боб Новелла настроен оптимистично, полагая, что коммерческий термоядерный реактор появится менее чем через 20 лет [53:00]. Стивен более осторожен в прогнозах, отодвигая этот срок к 2050–2100 годам, но согласен, что владение синтезом критически важно для колонизации космоса и создания эффективных двигателей [54:06].
*   **Зеленая революция 2.0:** Стивен приводит в пример фиксацию азота химиками в прошлом веке, что позволило удвоить население Земли [46:41]. Сегодня аналогичную роль может сыграть биоинженерия. Джей Новелла отмечает ироничность ситуации: люди могут протестовать против ГМО, но при этом десятилетиями есть продукты селекции, которые также являются формой генетической модификации [51:15].

## 🧬 Биоинженерия и будущее человека
[[JUMP:1:02:17]]

В завершение встречи ведущий Алан Силз спросил гостей, какие технологии будущего они больше всего хотели бы увидеть, но, вероятно, не успеют.

*   **Стивен Новелла:** Мечтает о зрелом нейрокомпьютерном интерфейсе, который позволит мозгу напрямую подключаться к глобальной сети [1:02:30].
*   **Боб Новелла:** Хотел бы увидеть термоядерные ракеты, способные быстро перевозить людей между планетами Солнечной системы [1:02:44].
*   **Джей Новелла:** Считает самым важным достижением генетическую инженерию, направленную на радикальное продление жизни. По его мнению, жизнь в 80 лет слишком коротка, чтобы увидеть все чудеса будущего [1:02:57].

Стивен Новелла резюмирует: будущее не предопределено и не неизбежно. Оно формируется нашими сегодняшними выборами, и то, как мы будем взаимодействовать с технологиями, зависит не только от мощности процессоров, но и от наших культурных ценностей [41:20].