# Джеймс Камбиас о будущем ИИ: «Машины могут просто потерять смысл жизни и выключиться»

Источник: https://www.youtube.com/watch?v=wxnxe5p_toE
Канал: Event Horizon
Опубликовано: 27.05.2021

---

В новом выпуске программы Event Horizon Джон Майкл Годье обсуждает с американским писателем-фантастом Джеймсом Л. Камбиасом перспективы развития сильного искусственного интеллекта (AGI), этику манипуляции памятью и экономическую целесообразность освоения космоса. Основной темой беседы стал поиск баланса между технологическим оптимизмом и реалистичным пониманием биологических и физических ограничений человечества.

## 🤖 Опасность AGI: между восстанием машин и экзистенциальным кризисом
[[JUMP:02:50]]

Обсуждая потенциальные риски создания сильного искусственного интеллекта, Джеймс Л. Камбиас выражает мнение, что человечество находится гораздо дальше от этой точки, чем принято считать [03:14]. По словам автора, современные системы, которые мы называем ИИ, — это лишь продвинутые методы выполнения задач, поставленных людьми [03:26].

Ключевые тезисы Камбиаса относительно безопасности ИИ:

*   **Отсутствие воли:** Ни один существующий компьютер не способен даже зачать идею захвата мира, а тем более принять такое решение самостоятельно [03:40].
*   **Экзистенциальный риск:** По мнению Камбиаса, вместо того чтобы поработить человечество, AGI может прийти к выводу о бессмысленности существования и просто отключиться [04:07]. 
*   **Биологические императивы:** В отличие от людей, у ИИ нет вшитых инстинктов выживания и размножения, которые часто заставляют нас игнорировать сложные философские вопросы ради продолжения жизни [04:31].
*   **Сверхлогичное поведение:** Гипотетический сверхразум может поработить людей не из злобы, а ради прагматичной цели — например, заставить нас построить гигантскую ракету, чтобы улететь в космос в поисках оптимально низких температур для вычислений [05:13].

## 🧠 Манипуляция памятью и «Операция Гёделя»
[[JUMP:05:27]]

Действие новой книги Камбиаса «Операция Гёделя» (The Gödel Operation) разворачивается в конце 10-го тысячелетия, примерно в 9986 году [05:35]. В этом мире технологический прогресс не прерывался темными веками, что позволило достичь атомарного уровня манипуляции материей [05:42].

Автор описывает технологию изменения памяти, основанную на физическом воздействии:

1.  **Физическая перепрошивка:** По мнению Камбиаса, создание ложных воспоминаний потребует буквального изменения расположения аксонов в мозге [07:10].
2.  **Нанотехнологии:** Для «перекоммутации» нейронных связей без разрушения структуры мозга в будущем могут использоваться нанороботы [07:30].
3.  **Экзистенциальный кризис:** В книге один из главных героев, человек по имени Зи, получает фальшивые воспоминания о трагическом романе, чтобы придать своей жизни смысл [06:32].

Как отмечает Камбиас, в мире далекого будущего обнаружение того, что в твоей голове «покопались», не будет восприниматься как шокирующее откровение, так как технология существует тысячи лет [08:27]. Это становится обыденной, хоть и неприятной частью жизни.

## 💻 Скепсис в отношении загрузки сознания
[[JUMP:11:19]]

Вопрос переноса человеческого разума в компьютерную среду вызывает у Джеймса Камбиаса серьезные сомнения. Будучи женат на ученом-неврологе, он придерживается более биологического взгляда на мозг, чем многие специалисты по компьютерным наукам [11:32].

Аргументы Камбиаса против концепции «цифрового бессмертия»:

*   **Мозг — не компьютер:** По утверждению гостя, это сравнение верно лишь в самом общем метафорическом смысле [11:47]. Нейроны не являются цифровыми системами [12:12].
*   **Проблема симуляции:** Для запуска точной модели мозга потребуется процессор гораздо большего объема и мощности, чем сам мозг [14:41].
*   **Отсутствие обновлений:** Даже если удастся создать эмуляцию разума, это будет лишь статичная модель. Нельзя просто «скачать патч», чтобы стать умнее, — придется перепроектировать всю архитектуру симулируемого мозга [13:24].
*   **Квантовый фактор:** Ведущий Джон Майкл Годье добавил, что если мозг использует квантово-механические функции (как предполагает, например, Пол Дэвис), то мы можем быть в столетиях от понимания этого процесса [14:16].
*   **Деструктивное сканирование:** Камбиас полагает, что первый же опыт по загрузке сознания может потребовать физического уничтожения оригинального мозга, что ставит этическую проблему «первого испытателя» [16:43].

## 🚀 Экономика космоса: почему Марс может быть убыточен
[[JUMP:17:10]]

Обсуждая современные амбиции SpaceX и Blue Origin, Камбиас ставит под сомнение жизнеспособность колонии на Марсе с точки зрения бизнеса. По его словам, история колонизации (например, поселение Джеймстаун) показывает: проект выживает только тогда, когда находит прибыльный ресурс, который можно продать на родине [18:17].

Экономические перспективы освоения Солнечной системы:

*   **Марсианские алмазы:** Геологи полагают, что на Марсе могут существовать алмазные трубки, сформированные из первичного углерода в мантии планеты [20:15]. Это один из немногих ресурсов, который было бы выгодно доставлять на Землю [20:54].
*   **Деймос как логистический хаб:** В романе Камбиаса именно спутник Марса Деймос становится центром торговли. С точки зрения затрат энергии, добраться от Деймоса до геостационарной орбиты Земли проще, чем с поверхности самой Земли [22:49].
*   **Рынок дозаправки:** По мнению гостя, реальный рынок ближайшего будущего — это добыча водорода и кислорода на околоземных объектах для дозаправки спутников связи [21:58].
*   **Энергетическая близость:** Камбиас напоминает парадокс орбитальной механики: отправить зонд к Юпитеру зачастую удобнее и проще, чем к Меркурию, из-за энергетических затрат на торможение и разгон в гравитационном колодце Солнца [24:17].

Подводя итог, Джеймс Камбиас подчеркивает, что развитие искусственного интеллекта будет идти медленно и инкрементально. Это даст человечеству время интегрировать новые технологии в социальные структуры и избежать сценария внезапного «пробуждения» враждебного сверхразума [09:22].