В штаб-квартире Google прошла встреча с авторами популярного подкаста «The Skeptics' Guide to the Universe» — братьями Стивеном, Джеем и Бобом Новелла. Темой обсуждения стала их новая книга «The Skeptics' Guide to the Future», в которой авторы анализируют ошибки футуристов прошлого и пытаются составить реалистичный дорожный карту технологического развития человечества.
🤖 Искусственный интеллект: от киношных страхов к реальности 4:50
Обсуждение будущего невозможно без темы искусственного интеллекта (ИИ). Стивен Новелла отмечает, что наши представления об ИИ десятилетиями формировались под влиянием поп-культуры и кинематографа. В качестве примера он приводит фильм 1970 года «Колос: Проект Форбина», где компьютерная система, взяв под контроль ядерный арсенал, мгновенно захватывает мир .
Основные тезисы участников об эволюции ИИ:
- Крах прогнозов о сознании: В 70-х и 80-х годах эксперты верили, что мы находимся на «короткой дистанции» к созданию общего ИИ (AGI), обладающего самосознанием. Стивен Новелла подчеркивает, что спустя 20 лет после символичной даты «2001: Космическая одиссея» человечество всё еще бесконечно далеко от воспроизведения уровня сознания HAL 9000 .
- Триумф «узкого» ИИ: Главный сдвиг парадигмы последних лет заключается в том, что «узкий» (narrow) ИИ — алгоритмы, решающие одну конкретную задачу (игра в го, вождение автомобиля, генерация изображений), — оказался намного мощнее, чем предполагалось. Стивен задается вопросом: нужно ли нам вообще делать ИИ самосознающим, если узкие системы уже справляются с задачами лучше людей ?
- Риск «черного ящика»: Боб Новелла обращает внимание на проблему эволюционных алгоритмов. Мы получаем результаты, которые работают, но зачастую не понимаем, как именно ИИ пришел к этому решению. Этот эффект «черного ящика» будет только усиливаться .
- Сингулярность и рекурсия: Джей Новелла выражает опасения по поводу возможного «взрыва интеллекта», когда ИИ начнет проектировать новые версии ИИ без участия человека. Это может привести к технологической сингулярности уже при нашей жизни .
📉 Ошибки футуризма: почему мы промахиваемся 19:08
Авторы вывели несколько «заблуждений футуризма», которые мешают нам адекватно оценивать грядущие перемены.
- Линейное смещение: Люди склонны переоценивать краткосрочный прогресс и недооценивать долгосрочный . В 2010-х казалось, что беспилотные автомобили заполнят улицы к 2020 году, но решение оставшихся 5% проблем (особенно безопасности) потребовало гораздо больше времени, чем первые 95% .
- Игнорирование инфраструктуры и психологии: Технология может быть совершенной, но провалиться из-за социальных факторов. Пример — Segway: технически безупречное устройство не взлетело, так как под него не была подстроена городская среда, а пользователи чувствовали себя «нелепо» (dorky) во время езды .
- Непредсказуемость «киллер-фич»: Стивен Новелла напоминает, что никто не предсказал популярность текстовых сообщений (SMS) . Все футуристы рисовали видеотелефоны как основной способ связи, однако люди предпочли асинхронное текстовое общение, так как оно требует меньше социальной энергии .
🔋 Энергетика и материаловедение: невидимая революция 45:32
Братья Новелла подчеркивают, что настоящий прогресс часто происходит в «непривлекательных» сферах, таких как материаловедение или химия. По мнению Стивена, современный мир построен именно на достижениях химиков, а не только на «единицах и нулях» .
- Ядерный синтез: Боб Новелла настроен оптимистично, полагая, что коммерческий термоядерный реактор появится менее чем через 20 лет . Стивен более осторожен в прогнозах, отодвигая этот срок к 2050–2100 годам, но согласен, что владение синтезом критически важно для колонизации космоса и создания эффективных двигателей .
- Зеленая революция 2.0: Стивен приводит в пример фиксацию азота химиками в прошлом веке, что позволило удвоить население Земли . Сегодня аналогичную роль может сыграть биоинженерия. Джей Новелла отмечает ироничность ситуации: люди могут протестовать против ГМО, но при этом десятилетиями есть продукты селекции, которые также являются формой генетической модификации .
🧬 Биоинженерия и будущее человека 1:02:17
В завершение встречи ведущий Алан Силз спросил гостей, какие технологии будущего они больше всего хотели бы увидеть, но, вероятно, не успеют.
- Стивен Новелла: Мечтает о зрелом нейрокомпьютерном интерфейсе, который позволит мозгу напрямую подключаться к глобальной сети .
- Боб Новелла: Хотел бы увидеть термоядерные ракеты, способные быстро перевозить людей между планетами Солнечной системы .
- Джей Новелла: Считает самым важным достижением генетическую инженерию, направленную на радикальное продление жизни. По его мнению, жизнь в 80 лет слишком коротка, чтобы увидеть все чудеса будущего .
Стивен Новелла резюмирует: будущее не предопределено и не неизбежно. Оно формируется нашими сегодняшними выборами, и то, как мы будем взаимодействовать с технологиями, зависит не только от мощности процессоров, но и от наших культурных ценностей .
