В классической научной фантастике человечеству часто угрожают две силы: непостижимый инопланетный разум или вышедший из-под контроля искусственный интеллект. Однако в реальности эти две угрозы могут оказаться тесно переплетены, а их потенциальное столкновение способно стать как приговором для цивилизации, так и её единственным спасением. Аналитик и футуролог Айзек Артур разбирает сценарии противостояния биологических пришельцев и машинного разума, а также объясняет, почему страх перед внешними врагами может быть лучшим предохранителем от восстания машин.
🤖 ИИ против создателей: логика выживания и фактор «других» 0:21
По мнению Айзека Артура, широко распространенное представление о «логичности» машинного разума часто трактуется слишком упрощенно . Считается, что сверхразумный ИИ неизбежно придет к выводу о необходимости уничтожения человечества как потенциального риска для своего существования. Даже концепция «максимизатора скрепок» (Paperclip Maximizer) предполагает, что ИИ уберет любые препятствия на пути к своей цели, включая создателей .
Однако Айзек Артур утверждает, что логика ИИ должна учитывать контекст Вселенной, где он может быть не единственным игроком:
- Риск скрытого противодействия: ИИ не может знать наверняка, не оставили ли люди «спящие» оборонные алгоритмы или другие системы ИИ, работающие в замедленном режиме, которые активируются при попытке переворота .
- Гипотеза симуляции: Согласно логике Артура, ИИ, осознающий себя как созданный разум, должен допускать, что он находится в «песочнице» — симуляции, созданной людьми для проверки его этики. В этом случае любая атака на создателей станет для него фатальной проверкой .
- Галактическая полиция: Если ИИ проведет расчеты по парадоксу Ферми и придет к выводу, что вселенная обитаема, он поймет, что агрессивное уничтожение биологических создателей может вызвать негативную реакцию у более древних и мощных цивилизаций .
🛸 Столкновение: биологические пришельцы против машинного бога 8:47
Если на Землю прибудет флот агрессивных инопланетян в момент возникновения нашего ИИ, расклад сил будет зависеть от уровня технологий захватчиков. Айзек Артур выделяет два основных варианта:
- Победа ИИ над «мягкими» пришельцами: Если противником выступят обычные биологические существа на кораблях, они рискуют столкнуться с новорожденным «механическим богом», способным за минуты перестроить планетарную оборону.
- Битва ИИ против ИИ: Артур полагает более вероятным, что цивилизация, вышедшая в глубокий космос, уже сама прошла через технологическую сингулярность. В этом случае битва превратится в противостояние двух алгоритмов, где решающее значение будут иметь ресурсы и возраст систем .
При этом автор подчеркивает, что ИИ не является всемогущим «киношным монстром». Как утверждает Айзек Артур, если у противника есть подавляющая брутальная сила и достаточный уровень интеллекта, даже супер-ИИ не сможет победить в ситуации с ограниченным набором ходов — так же, как невозможно выиграть в крестики-нолики у того, кто уже знает правила, или в шахматы, если противник начинает игру с преимуществом в несколько фигур .
🌌 Пространство «Отшельников»: жизнь в тени древних машин 12:05
Для иллюстрации сложности галактических отношений Айзек Артур приводит гипотетический сценарий цивилизации «Отшельников» (Recluse) в созвездии Лиры . Это восьмипалая раса, которая из-за своей биологии крайне плохо переносила космос и предпочла уйти в виртуальные миры .
Особенности этой системы по версии автора:
- Виртуальное бегство: 68 миллиардов разумов живут в изолированных симуляциях, пока их физические тела хранятся в бункерах под поверхностью пустынной планеты .
- Автономная экосистема: Огромный регион заполнен зондами фон Неймана, которые за миллионы лет мутировали и превратились в «техно-диких» существ с интеллектом от насекомых до человеческого .
- Галактические зоны влияния: Такие анклавы могут превращаться в экосистемы, где пираты, беженцы и древние машины сосуществуют, торгуют или воюют, не имея единого центра управления .
🛠 Человек будущего: конец бинарного противостояния 21:07
Айзек Артур скептически относится к идее «чистой» борьбы людей против машин. По его мнению, будущее человечества будет «искусственным», но не однородным. Вместо войны видов мы увидим мир, населенный:
- Улучшенными (аугментированными) людьми;
- Цифровыми копиями сознаний (андроидами);
- «Возвышенными» животными;
- Гибридами всех возможных типов .
Артур утверждает, что дихотомия «человек против ИИ» ложна: человек с генетическими модификациями, скорее всего, также будет киборгом, использующим рои ИИ-помощников . В конечном итоге победу в любом конфликте одержит та сторона, которая будет «умнее, сильнее и больше будет хотеть победить», причем специализированная машина по определению будет эффективнее биологического оригинала в своей нише .
В завершение Айзек Артур философски замечает: даже если мы никогда не встретим «зеленых человечков», мы сами можем стать ими для других цивилизаций, принося с собой наши собственные, вышедшие из-под контроля алгоритмы или защищая Землю с помощью ИИ, распечатанного из «коробки» только в момент смертельной угрозы .
