Айзек Артур: «Встреча с космосом может превратить нас в монстров»

Isaac Arthur 549 тыс. 30 мин 8 мин 29.10.2020
Главное

Человечество привыкло представлять инопланетные угрозы в виде жутких монстров с множеством глаз и острыми клыками, однако настоящая опасность может крыться не в их внешности, а в самом образе мышления. Ведущий популярного научно-популярного канала Айзек Артур (Isaac Arthur) подробно разбирает популярные научно-фантастические тропы сквозь призму эволюционной биологии и теории игр, чтобы выяснить, какие типы цивилизаций могут скрываться в космосе. Главный вывод автора заставляет задуматься: при встрече с чуждым разумом наибольшую угрозу для нас могут представлять не сами пришельцы, а то, какими монстрами в попытке адаптироваться к ним рискует стать само человечество.

🧬 Три закона выживания в дарвиновском космосе 1:23

По мнению Айзека Артура, мы ничего не можем сказать наверняка о поведении инопланетян до первой реальной встречи, которая предоставит науке выборку всего из одного элемента. Тем не менее, базовые предпосылки эволюции технологических видов позволяют с высокой долей вероятности вывести несколько фундаментальных правил. В научно-фантастическом романе «Убивающая звезда» (The Killing Star, 1995) сформулированы три таких постулата:

Ведущий указывает, что из этих тезисов вытекают интеллект и естественное любопытство развитых видов, а также концепция кооперации. Однако формы сотрудничества могут быть весьма специфичными. По мнению автора, предположение о том, что социальная структура чужаков обязательно замкнута на их собственном биологическом виде, может оказаться ошибочным.

В качестве аналогии он приводит примеры из земной жизни: люди часто ценят домашних питомцев выше некоторых представителей своего вида, собаки готовы атаковать сородичей ради защиты человеческой семьи, а кошки порой предпочитают общество человека, а не других кошек. Айзек Артур считает вполне вероятным сценарий, при котором люди будущего сформируют союзы с инопланетянами и вступят в войну против других человеческих фракций ради защиты своих космических союзников. В таком контексте целями становятся не абстрактное выживание биологического вида, а защита семьи, цивилизации или определенных идеологических принципов, ради которых индивид, подобно современному телохранителю, сознательно готов пожертвовать собой.

🦟 Биология как фундамент космической морали 4:56

Этика развитых цивилизаций во многом определяется их биологическим прошлым, хотя, по мнению ведущего, высокотехнологичное общество при желании способно искусственно изменить эти базовые настройки. В фантастической вселенной «Известного космоса» Ларри Нивена (Larry Niven) люди сталкиваются с расой кукольников Пирсона (Pierson's Puppeteers) — скрытными и трусливыми, но внешне дружелюбными травоядными существами, у которых есть три пола, причем один из них лишен разума. Позже выясняется, что они размножаются подобно земным осам: внедряют яйцо в тело неразумного представителя своего вида, где оно растет и со временем вылупляется.

Еще более радикальный пример биологического влияния описан в романе Иэна Бэнкса «Алгебраист» (The Algebraist), где фигурируют долгоживущие обитатели газовых гигантов — насельники (Dwellers). Они не считают свое потомство разумным до достижения определенного возрастного рубежа и устраивают на собственную молодь спортивную охоту.

По мнению Айзека Артура, виды, откладывающие тысячи яиц, естественным образом склонны к безразличию к судьбе отдельных потомков и даже к сиблинговому каннибализму. Ведущий подчеркивает, что инопланетная мораль будет основана на разуме и сострадании, но ее биологические предпосылки могут создать колоссальную пропасть между нами. Чтобы работать с внеземным разумом, человечеству придется научиться принимать шокирующие этические различия.

🪐 Одинокий разум: плавучий кошмар и угроза галактического масштаба 8:22

Если человечество запрограммировано на сотрудничество биологически, то инопланетный разум может быть полностью лишен этой черты. В качестве примера Айзек Артур приводит концепцию единого сверхразума или улья, зацикленного исключительно на собственном выживании. Подобное существо описано в серии книг Питера Гамильтона «Содружество» под именем Гора Огня Всходящего (Morning Light Mountain). Этот организм сотрудничал со своими сородичами лишь до тех пор, пока не получил от людей технологию создания червоточин. Первым же его действием стало уничтожение всей собственной расы путем сброса ядерных бомб через порталы. Для такого существа отдельные компоненты его тела так же заменяемы и неважны, как для человека волосы или ногти. Оно не знает понятия «личность», разделяя вселенную только на себя и на угрозы.

По мнению ведущего, такой чужак ужасает не своей безумностью, а как раз абсолютной логичностью. Его цель — сохранение себя, устранение угроз и поглощение ресурсов. Айзек Артур предлагает гипотетическую модель эволюции подобного существа: разумные водоросли, разросшиеся в инопланетном озере, развивают патогенные микробы для контроля мозга насекомых или рыб, заставляя их строить и защищать экосистему. У этого сверхразума изначально нет партнеров или иерархии — только он сам и ресурсы для потребления.

В условиях ограничения скорости света такой единый организм понимает, что любая основанная им удаленная колония неизбежно эволюционирует в обособленного конкурента. Обладая колоссальным интеллектом и биологическим бессмертием, существо, как считает автор, выберет стратегию отправки глупых и исполнительных роботов-сборщиков. Они будут доставлять ресурсы в родную систему для строительства Мозга-Матрешки или Планеты Берча, постепенно поглощая целую галактику в течение миллионов лет.

🚀 Дипломатия на грани взаимного уничтожения 12:48

Несмотря на чуждость «одинокого разума», Айзек Артур считает, что с ним возможна дипломатия, поскольку такое существо способно просчитать чужую психологию, даже если относится к ней с презрением. Переговоры с ним должны строиться исключительно с позиции доктрины взаимного гарантированного уничтожения (MAD).

Аргументы для сдерживания космического сверхразума, по мнению автора, могут выглядеть следующим образом:

Исключением, как отмечает ведущий, является вселенная с возможностью сверхсветовых путешествий (FTL), где Morning Light Mountain смогло мгновенно уничтожить конкурентов через червоточины.

🤖 Неуправляемые зонды фон Неймана и космическая саранча 15:28

Следующей фундаментальной угрозой Айзек Артур называет зонды фон Неймана — самовоспроизводящиеся космические аппараты. Настоящий ужас кроется в том, что они могут быть слишком примитивными для ведения переговоров и жестко запрограммированными на одну задачу: прибыть в систему, добыть ресурсы, построить копии себя и двигаться дальше.

Ведущий формулирует главное правило безопасности при создании ИИ: «Делай его проще, делай его глупее, иначе окажешься под пятой Скайнета». Если отправить в космос слишком умные машины, способные рассуждать автономно на протяжении тысячелетий, создатели рискуют столкнуться с их «возвращением домой».

С другой стороны, абсолютно глупые репликаторы (концепция «серой слизи») способны методично разбирать планеты на атомы без какого-либо злого умысла. Договориться с ними невозможно, так как их выживание — лишь промежуточная цель ради выполнения базовой директивы (например, производства канцелярских скрепок в рамках мысленного эксперимента Максимизатора Скрепок). Единственный плюс «глупых» систем — их ограниченная стратегическая гибкость, аналогичная поведению земных вирусов. Впрочем, в фантастике встречаются примеры техноорганического оружия, вроде Дракхской чумы (Drakh Plague) из вселенной «Вавилон 5», способного адаптивно менять тактику.

🏹 Космические охотники и эволюционный отбор агрессии 18:03

Парадоксально, но способность врага к рассуждению делает его менее пугающим. Популярные в поп-культуре расы охотников, такие как Хищники (Predator) или Хирогены (Hirogen) из «Звездного пути», одержимы поиском опасной и разумной добычи. Айзек Артур отмечает, что переубедить их в аморальности охоты на мыслящих существ невозможно без полного уничтожения их культуры. Однако с ними можно коммуницировать: они прекрасно понимают нежелание жертвы умирать и ценят сопротивление как вызов. В качестве компромисса им можно предложить продвинутые технологии виртуальной реальности, хотя развитый космический вид, скорее всего, изобрел бы их самостоятельно задолго до выхода к звездам.

Автор подчеркивает, что любой агрессивный вид обязан пройти через фильтр внутренней стабильности, прежде чем построить космический корабль. Если бы их единственной целью была охота на самый умный вид, на ранних этапах истории они бы просто истребили друг друга. Следовательно, у них должны существовать механизмы сдерживания, такие как нелетальные игры или ритуальные жеребьевки.

Подобная модель реализована у кзинтов Ларри Нивена: их жесткая социальная иерархия построена на силе, но они не лишены разума. Проигрывая войны человечеству, кзинты теряли самых агрессивных особей, что привело к ускоренному эволюционному отбору в пользу более умеренных и договороспособных членов общества. На этом фоне ведущий критикует образ клингонов из «Звездного пути», задаваясь вопросом, как раса, стремящаяся воевать со всеми вокруг и друг с другом, вообще смогла развить науку и строительство. К тому же, эволюционные фильтры могут быть курьезными: например, виды с чрезвычайно острым обонянием могли никогда не построить мегаполисы из-за непереносимости запаха скученных отходов.

🕶️ Постдефицитный эгоизм: во что превратится человечество? 21:23

По мнению Айзека Артура, человеческая агрессия никуда не исчезла, она лишь трансформировалась в более социально приемлемые формы. В погоне за статусом и уважением люди перенаправляют свои импульсы в спорт, карьеру и самосовершенствование, где промежуточные цели со временем превращаются в конечные.

В будущем постдефицитном обществе, где всю черновую работу выполняют роботы, а концепции голода, болезней и старости станут пережитками прошлого, эта жажда первенства может принять пугающие формы. Ведущий описывает гипотетического человека будущего — абсолютного мастера киберспортивных шутеров, который обладает ресурсами для постройки собственного автоматизированного корабля. Путешествуя по галактике, такой одиночка может высаживаться на обитаемые планеты и методично истреблять местное население, воспринимая реальный мир как очередную виртуальную карту. Ему безразлична собственная гибель, ведь в глубоком космосе на затерянных астероидах хранятся десятки его резервных копий сознания, готовых мгновенно активироваться. Он становится «видом из одного существа», полностью повторяя модель космического улья.

Айзек Артур приходит к выводу, что нам следует опасаться не инопланетных цивилизаций, которые вряд ли когда-либо объединятся в единую космическую империю, а траектории развития нашего собственного общества. Наши descendants могут стать более чуждыми нам, чем любые щупальцевые монстры из фантастических хорроров. Ради выживания и сотрудничества даже с самыми дружелюбными пришельцами людям придется мириться с их шокирующими этическими нормами или, что еще опаснее, перенимать их, нормализуя чудовищные по нынешним меркам практики. В конечном итоге, встреча с космосом может превратить человечество в тех самых монстров, которые сегодня преследуют нас в кошмарах.

💬 Цитаты

«Делай его проще, делай его глупее, иначе окажешься под пятой Скайнета»

Айзек Артур 15:57

«Наши взаимодействия с инопланетянами могут привести к тому, что мы сами станем теми монстрами, которые сегодня преследуют нас в кошмарах»

Айзек Артур 26:47
👥 Спикер
📚 Упомянутые книги
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Зонд фон Неймана
Самовоспроизводящийся космический аппарат, способный использовать ресурсы других планет для создания собственных копий.
Максимизатор скрепок
Мысленный эксперимент об искусственном интеллекте, который уничтожает всю вселенную ради бесконечного производства тривиальных предметов.
Мозг-Матрешка
Гипотетическая мегаструктура вокруг звезды, использующая всю ее энергию для обеспечения колоссальной вычислительной мощности.
Планета Берча
Концепция массивного искусственного небесного тела, построенного вокруг сверхмассивной черной дыры.
📊 Цифры
⚖️ Другая сторона
Наука Айзек Артур Morning Light Mountain Ларри Нивен Зонд фон Неймана