В новом выпуске программы Event Horizon Джон Майкл Годье обсуждает с американским писателем-фантастом Джеймсом Л. Камбиасом перспективы развития сильного искусственного интеллекта (AGI), этику манипуляции памятью и экономическую целесообразность освоения космоса. Основной темой беседы стал поиск баланса между технологическим оптимизмом и реалистичным пониманием биологических и физических ограничений человечества.
🤖 Опасность AGI: между восстанием машин и экзистенциальным кризисом 2:50
Обсуждая потенциальные риски создания сильного искусственного интеллекта, Джеймс Л. Камбиас выражает мнение, что человечество находится гораздо дальше от этой точки, чем принято считать . По словам автора, современные системы, которые мы называем ИИ, — это лишь продвинутые методы выполнения задач, поставленных людьми .
Ключевые тезисы Камбиаса относительно безопасности ИИ:
- Отсутствие воли: Ни один существующий компьютер не способен даже зачать идею захвата мира, а тем более принять такое решение самостоятельно .
- Экзистенциальный риск: По мнению Камбиаса, вместо того чтобы поработить человечество, AGI может прийти к выводу о бессмысленности существования и просто отключиться .
- Биологические императивы: В отличие от людей, у ИИ нет вшитых инстинктов выживания и размножения, которые часто заставляют нас игнорировать сложные философские вопросы ради продолжения жизни .
- Сверхлогичное поведение: Гипотетический сверхразум может поработить людей не из злобы, а ради прагматичной цели — например, заставить нас построить гигантскую ракету, чтобы улететь в космос в поисках оптимально низких температур для вычислений .
🧠 Манипуляция памятью и «Операция Гёделя» 5:27
Действие новой книги Камбиаса «Операция Гёделя» (The Gödel Operation) разворачивается в конце 10-го тысячелетия, примерно в 9986 году . В этом мире технологический прогресс не прерывался темными веками, что позволило достичь атомарного уровня манипуляции материей .
Автор описывает технологию изменения памяти, основанную на физическом воздействии:
- Физическая перепрошивка: По мнению Камбиаса, создание ложных воспоминаний потребует буквального изменения расположения аксонов в мозге .
- Нанотехнологии: Для «перекоммутации» нейронных связей без разрушения структуры мозга в будущем могут использоваться нанороботы .
- Экзистенциальный кризис: В книге один из главных героев, человек по имени Зи, получает фальшивые воспоминания о трагическом романе, чтобы придать своей жизни смысл .
Как отмечает Камбиас, в мире далекого будущего обнаружение того, что в твоей голове «покопались», не будет восприниматься как шокирующее откровение, так как технология существует тысячи лет . Это становится обыденной, хоть и неприятной частью жизни.
💻 Скепсис в отношении загрузки сознания 11:19
Вопрос переноса человеческого разума в компьютерную среду вызывает у Джеймса Камбиаса серьезные сомнения. Будучи женат на ученом-неврологе, он придерживается более биологического взгляда на мозг, чем многие специалисты по компьютерным наукам .
Аргументы Камбиаса против концепции «цифрового бессмертия»:
- Мозг — не компьютер: По утверждению гостя, это сравнение верно лишь в самом общем метафорическом смысле . Нейроны не являются цифровыми системами .
- Проблема симуляции: Для запуска точной модели мозга потребуется процессор гораздо большего объема и мощности, чем сам мозг .
- Отсутствие обновлений: Даже если удастся создать эмуляцию разума, это будет лишь статичная модель. Нельзя просто «скачать патч», чтобы стать умнее, — придется перепроектировать всю архитектуру симулируемого мозга .
- Квантовый фактор: Ведущий Джон Майкл Годье добавил, что если мозг использует квантово-механические функции (как предполагает, например, Пол Дэвис), то мы можем быть в столетиях от понимания этого процесса .
- Деструктивное сканирование: Камбиас полагает, что первый же опыт по загрузке сознания может потребовать физического уничтожения оригинального мозга, что ставит этическую проблему «первого испытателя» .
🚀 Экономика космоса: почему Марс может быть убыточен 17:10
Обсуждая современные амбиции SpaceX и Blue Origin, Камбиас ставит под сомнение жизнеспособность колонии на Марсе с точки зрения бизнеса. По его словам, история колонизации (например, поселение Джеймстаун) показывает: проект выживает только тогда, когда находит прибыльный ресурс, который можно продать на родине .
Экономические перспективы освоения Солнечной системы:
- Марсианские алмазы: Геологи полагают, что на Марсе могут существовать алмазные трубки, сформированные из первичного углерода в мантии планеты . Это один из немногих ресурсов, который было бы выгодно доставлять на Землю .
- Деймос как логистический хаб: В романе Камбиаса именно спутник Марса Деймос становится центром торговли. С точки зрения затрат энергии, добраться от Деймоса до геостационарной орбиты Земли проще, чем с поверхности самой Земли .
- Рынок дозаправки: По мнению гостя, реальный рынок ближайшего будущего — это добыча водорода и кислорода на околоземных объектах для дозаправки спутников связи .
- Энергетическая близость: Камбиас напоминает парадокс орбитальной механики: отправить зонд к Юпитеру зачастую удобнее и проще, чем к Меркурию, из-за энергетических затрат на торможение и разгон в гравитационном колодце Солнца .
Подводя итог, Джеймс Камбиас подчеркивает, что развитие искусственного интеллекта будет идти медленно и инкрементально. Это даст человечеству время интегрировать новые технологии в социальные структуры и избежать сценария внезапного «пробуждения» враждебного сверхразума .
