Весь годовой бюджет Конвенции о запрещении биологического оружия уступает бюджету одного среднестатистического ресторана McDonald’s, наглядно иллюстрируя, насколько беспечно мы относимся к собственному выживанию. Человечество вошло в эпоху Стремнины — уникальный исторический период, когда экспоненциальный рост технологической мощи драматически опережает нашу коллективную мудрость. Чтобы не допустить необратимого коллапса цивилизации, миру необходима масштабная перезагрузка глобальных институтов безопасности и переход к фазе «долгого раздумья».
🌍 На краю бездны: эпоха Стремнины и первый триумф человечества 3:32
Эпоха Стремнины: когда технологическая мощь опережает мудрость 3:32
Человечество развивалось на протяжении тысяч лет, успешно преодолевая локальные кризисы, голод и эпидемии. Однако сегодня мы оказались в принципиально новой, беспрецедентной исторической точке. Тоби Орд (Toby Ord) в своей фундаментальной работе «На краю» (The Precipice) аргументирует, что наш вид вошел в уникальный и критически опасный период, который он называет эпохой Стремнины. Главная особенность этого времени заключается в пугающем дисбалансе: наша технологическая мощь растет экспоненциальными темпами, в то время как коллективная мудрость, этическое сознание и институты глобального управления рисками практически топчутся на месте. Впервые в истории ключевые угрозы нашему выживанию исходят не от внешних слепых сил природы, а от наших собственных творений.
Понятие экзистенциального риска, подробному анализу которого Тоби Орд (Toby Ord) посвятил годы исследований, выходит далеко за рамки привычных нам катастроф и гуманитарных кризисов. Речь идет не просто о масштабных разрушениях, экономических коллапсах или даже гибели значительной части населения планеты. Суть экзистенциальной катастрофы заключается в полной, окончательной и безвозвратной потере долгосрочного потенциала всей человеческой цивилизации. Если обычный исторический кризис всегда оставляет выжившим шанс на восстановление и извлечение уроков, то экзистенциальный коллапс навсегда закрывает для человечества путь к будущему. Мы теряем возможность реализовать все те этические, научные, космические и культурные вершины, к которым наш вид мог бы прийти в последующие миллионы лет своего существования. Наша эпоха уникальна тем, что решения, принимаемые в ближайшие столетия, определят судьбу бесчисленных будущих поколений.
Стоит отметить, что ранее в разговоре собеседники вскользь коснулись темы грядущего математического обоснования ценности выживания цивилизации и рисков, исходящих от невыровненного искусственного интеллекта, что наглядно иллюстрирует масштаб антропогенных вызовов нашего века. Тоби Орд (Toby Ord) указывает на то, что этот опасный исторический транзит начался в середине XX века, когда создание и успешное испытание ядерного оружия наглядно продемонстрировали способность человека уничтожить самого себя. С тех пор спектр подобных техногенных угроз лишь расширяется. Задача текущего поколения — осознать масштаб нависшей угрозы и кардинально перестроить международную политику безопасности до того, как Стремнина увлечет нас в бездну.
Защита от астероидов: как политическая воля побеждает глобальные угрозы 16:56
Несмотря на тревожные масштабы антропогенных вызовов эпохи Стремнины, у человечества уже есть реальный, задокументированный и вдохновляющий пример того, как солидарность, наука и своевременные действия позволяют успешно нейтрализовать глобальные угрозы. Таким эталоном, по мнению Тоби Орда (Toby Ord), стала международная система астероидной безопасности. Долгое время падение крупных космических тел воспринималось обществом как неизбежный и неконтролируемый сценарий конца света, однако за последние десятилетия ситуация радикально изменилась благодаря скоординированным усилиям ученых и правительств.
История планетарной защиты развивалась по четкой и логичной траектории:
-
В 1980 году научное сообщество предоставило первые твердые доказательства того, что именно падение гигантского метеорита вызвало вымирание динозавров, что мгновенно перевело космическую угрозу из разряда фантастики в плоскость строгой академической науки.
-
В 1994 году астрономы, а за ними и миллионы телезрителей по всему миру, в прямом эфире наблюдали за падением кометы Шумейкеров — Леви 9 на Юпитер, что наглядно продемонстрировало колоссальную разрушительную силу космических столкновений и оставило гигантские шрамы в атмосфере газового гиганта.
-
Этот космический инцидент произвел огромный фурор в медиапространстве и общественном сознании, заставив политические элиты перейти от обсуждений к финансированию конкретных программ. Популяризации темы также способствовал выход голливудских блокбастеров, сформировавших устойчивый запрос граждан на защиту Земли от внешних угроз.
В результате этих событий международное научное и политическое сообщество смогло мобилизоваться и «взять себя в руки». На сегодняшний день астрономам удалось обнаружить, рассчитать траектории и внести в каталоги около 95% всех потенциально опасных околоземных астероидов диаметром более одного километра. Тщательные многолетние расчеты траекторий движения этих тел показали, что вероятность столкновения планеты с объектом размером в 10 километров в ближайшее столетие практически сведена к нулю.
Этот исторический кейс наглядно доказывает, что при наличии достаточного финансирования, прозрачной коммуникации и твердой политической воли человечество способно эффективно контролировать и минимизировать даже самые масштабные риски. Проекты космического мониторинга стали настоящим «образцовым примером» (poster child) успешной долгосрочной политики в сфере глобальной безопасности. И хотя далее в интервью участники мельком упоминали другие типы природных катастроф, такие как извержения супервулканов, именно астероидная программа остается главным историческим оптимистичным свидетельством того, что судьба цивилизации находится в наших собственных руках, если мы действуем сообща.
🌋 Геологические угрозы и пределы выживаемости человечества 25:23
Когда мы рассуждаем о глобальных катастрофах, наше воображение чаще всего рисует картины падения астероидов. Однако Тоби Орд отмечает, что хотя эта угроза широко известна, реальные риски могут быть иными. Гораздо более серьезную опасность для цивилизации представляют супервулканы. В отличие от разрушительных потоков лавы, локализованных вблизи эпицентра, главная угроза здесь — колоссальный выброс пепла в атмосферу.
Попадая в стратосферу, этот пепел создает плотную завесу, которая может блокировать солнечный свет на длительный срок. Это приводит к резкому сокращению вегетационного периода для сельскохозяйственных культур. Если такая «вулканическая зима» затянется, это может полностью остановить мировое сельское хозяйство, поставив под угрозу само существование человечества. Тоби Орд подчеркивает, что оценка таких рисков осложняется отсутствием надежных систем раннего оповещения: в случае начала извержения у нас было бы крайне мало понимания того, как именно оно повлияет на климат и продовольственную безопасность.
Математика выживания: почему мы всё еще здесь? 37:18
Один из самых интригующих вопросов заключается в том, как долго Homo sapiens удавалось избегать фатальных природных катастроф. Тоби Орд указывает на то, что факт нашего существования на протяжении 2000 веков является мощным статистическим аргументом. Математически, если бы вероятность гибели от естественных причин (таких как супервулканы или космические явления) была высокой, мы бы, вероятнее всего, уже исчезли.
Это эмпирическое наблюдение позволяет ученым устанавливать верхние границы для вероятности подобных событий. Если мы просуществовали столь долгий срок, значит, риск катастрофических природных катаклизмов, способных уничтожить цивилизацию, крайне низок. Мы буквально «выиграли в лотерею», избежав за сотни тысяч лет событий, которые могли бы поставить точку в истории нашего вида.
Фундаментальный разрыв: почему прошлое — не гарантия будущего 45:32
Однако существует критически важная оговорка, которую Тоби Орд выделяет как фундаментальное различие между природными и антропогенными рисками. Тот факт, что человечество выживало на протяжении 2000 веков, дает нам информацию только о стабильных природных угрозах. Он совершенно не гарантирует нашу безопасность в будущем перед лицом рисков, созданных нами самими.
Антропогенные угрозы, в отличие от природных, не являются постоянными величинами. Они динамичны, постоянно растут вместе с развитием наших технологий и нашей способностью изменять мир вокруг. Ранее в разговоре участники уже касались того, как институциональные провалы могут усугублять эти новые вызовы. Опыт выживания предков, живших в условиях исключительно природных опасностей, не является страховкой для цивилизации, которая начала создавать угрозы нового порядка, способные привести к полному коллапсу.
🌍 Климатический хаос и скрытые катализаторы глобальных катастроф 51:17
Изменение климата как фактор беспрецедентной неопределенности 51:17
Обсуждая долгосрочное будущее человечества, Тоби Орд обращает внимание на то, что климатический кризис часто оценивают некорректно, пытаясь найти в нем прямую и неизбежную причину полного исчезновения нашего вида. Согласно его анализу, сам по себе рост температур вряд ли приведет к мгновенному вымиранию людей, однако он создает экстремальный уровень неопределенности и колоссальную нагрузку на всю мировую инфраструктуру, проверяя на прочность международные институты.
Некоторые радикальные теории предполагают превращение Земли в полностью выжженную и непригодную для жизни пустыню, где температура поднимается на сотни градусов из-за избыточного выброса углекислого газа. Однако серьезные научные публикации, включая знаковые статьи в журнале Nature, показывают крайне низкую вероятность подобного runaway-эффекта. Тоби Орд подчеркивает: даже в случае самого катастрофического потепления наша планета все равно останется куда более пригодной для жизни, чем Марс, на который человечество сейчас возлагает столько надежд. В экстремальном сценарии люди сохранят способность выживать, строя инфраструктуру в Антарктиде или других полярных регионах.
Главная опасность климатических изменений кроется в непредсказуемости сложных петель обратной связи и феномене «длинных хвостов» вероятностей. Орд выделяет несколько критических аспектов:
-
Стабилизирующие и усиливающие обратные связи, такие как таяние вечной мерзлоты и высвобождение метангидратов — льдоподобного вещества, способного спровоцировать резкое, лавинообразное потепление, точные масштабы которого современной науке неизвестны.
-
Ненадежность стандартных моделей чувствительности климата, которые традиционно прогнозируют рост температуры в диапазоне от 1,5 до 4,5 градусов. Орд напоминает, что эти цифры не являются строгим 95%-м доверительным интервалом, а представляют собой крайне широкие распределения, где катастрофические аномалии нельзя исключать.
-
Скорость изменений, которая для биосферы и сельского хозяйства имеет куда более разрушительное значение, чем сам по себе абсолютный уровень температур, исторически зафиксированный на планетарных масштабах в прошлые геологические эпохи.
Истинная угроза климатического кризиса носит не прямой, а системный характер. Масштабные климатические сдвиги запустят глобальный кризис ресурсов, спровоцируют массовую миграцию и создадут такое давление на международные институты, которое может полностью разрушить глобальную стабильность.
Факторы риска: как скрытые угрозы приближают коллапс цивилизации 1:11:06
Для точного анализа экзистенциальных угроз Тоби Орд вводит важное методологическое разделение между непосредственными рисками и «факторами риска». В то время как некоторые события могут уничтожить человечество напрямую, факторы риска действуют как скрытые катализаторы — они подрывают способность общества реагировать на угрозы, отвлекают внимание от спасения будущего и делают другие катастрофы математически более вероятными. Ранее в разговоре собеседники детально разбирали само понятие экзистенциального риска, но именно системные факторы часто игнорируются глобальной политикой.
Наиболее опасным и наглядным фактором риска Орд считает войну между великими державами, проводя историческую аналогию с Первой мировой войной. Текущий уровень угрозы масштабного столкновения крупных государств в масштабах столетия оценивается исследователями примерно в 1%. Сама по себе конвенциональная война великих держав не сотрет человечество с лица Земли, но она мгновенно уничтожит международное сотрудничество, без которого невозможно решать глобальные проблемы.
Математика экзистенциального риска показывает, что такие факторы эффективно перекрывают друг друга. Тоби Орд приводит практический пример: когда общество узнает, что кто-то работает над снижением рисков столкновения с астероидами (что ранее упоминалось как пример успешной политики), это встречает понимание. Но если кто-то заявляет, что работает над предотвращением войны великих держав как экзистенциального фактора, это часто воспринимается как банальная или слишком общая деятельность. При этом в условиях реальной войны великих держав все долгосрочные защитные проекты будут немедленно свернуты, а ресурсы государств перенаправлены на взаимное уничтожение.
Таким образом, защита будущего человечества требует не просто точечной борьбы с конкретными катаклизмами, но и системного снижения каталитических факторов риска. Предотвращение крупных геополитических конфликтов и поддержание дееспособности международных институтов — это базовый фундамент, без которого долгосрочное выживание цивилизации становится невозможным.
☣️ Новая эра уязвимости: искусственные пандемии и призрак ядерной зимы 1:15:37
Ранее в разговоре Тоби Орд и интервьюеры подробно анализировали изменение климата как фактор неопределенности, однако главные антропогенные угрозы этого века лежат в иной, технологической плоскости.
Искусственные пандемии: главная биологическая угроза 1:27:02
Чтобы правильно оценить истинный масштаб биологической угрозы, необходимо взглянуть на исторический контекст нашей борьбы с болезнями. На протяжении тысячелетий человечество регулярно сталкивалось с разрушительными естественными эпидемиями. Ярким примером служит Черная смерть XIV века, которая уничтожила, по разным оценкам, от четверти до половины населения европейского континента.
Тем не менее, Тоби Орд подчеркивает фундаментальное различие между природными патогенами и продуктами человеческой инженерии. Естественная эволюция вирусов и бактерий не направлена на полное истребление хозяев — это эволюционно невыгодно для самого микроорганизма, которому нужно размножаться и передаваться дальше. Именно поэтому вероятность того, что естественная пандемия приведет к полному вымиранию человечества в ближайшие сто лет, оценивается как крайне малая.
Настоящий перелом происходит прямо сейчас из-за беспрецедентной демократизации биотехнологий. Если в XX веке создание биологического оружия требовало колоссальных ресурсов и секретных государственных лабораторий, то сегодня инструменты для глубокого редактирования генома и синтеза ДНК становятся общедоступными. Сложные манипуляции с патогенами теперь могут проводить не только ведущие ученые, но и студенты профильных университетов.
Главный экзистенциальный страх заключается в том, что в отличие от слепой эволюции, человек способен целенаправленно спроектировать патоген с идеальными характеристиками для уничтожения цивилизации. Злоумышленник, ведомый радикальными мизантропическими мотивами, или исследователь в результате трагической случайности могут создать вирус, сочетающий в себе сверхвысокую контагиозность, длительный инкубационный период и стопроцентную летальность.
На фоне столь колоссального риска международные институты безопасности выглядят пугающе беспомощными. Тоби Орд приводит поразительное сравнение: весь годовой бюджет Конвенции о запрещении биологического оружия (КБО) уступает бюджету одного среднестатистического ресторана сети McDonald’s. КБО катастрофически недофинансирована, у нее практически отсутствуют инструменты верификации, контроля и инспекций лабораторий по всему миру. Мировое сообщество дико игнорирует эту проблему, оставляя человечество беззащитным перед угрозой, способной перечеркнуть всё наше будущее.
Ядерная зима как механизм вымирания 1:36:41
Еще одной критической точкой уязвимости остается ядерное оружие, однако характер исходящей от него экзистенциальной угрозы часто интерпретируется неверно. Рассуждая о гипотетическом ядерном апокалипсисе, люди обычно представляют себе мгновенную гибель миллионов человек в эпицентрах взрывов или долгосрочное радиационное заражение планеты радиоактивными осадками. Проведенный Ордом анализ показывает, что сами по себе взрывы и радиация, при всей их катастрофичности, не способны привести к полному вымиранию Homo sapiens как биологического вида.
Истинным и наиболее опасным механизмом потенциального вымирания выступает ядерная зима. В случае масштабного ядерного конфликта между сверхдержавами и массированного применения боеголовок по городам и промышленным центрам возникнут колоссальные огненные смерчи. Огромные объемы темного дыма, копоти и сажи поднимутся высоко в стратосферу, выше уровня облаков, где они распределятся по всей планете и заблокируют солнечный свет на долгие годы.
Главным следствием этого атмосферного коллапса станет полное уничтожение глобального сельского хозяйства. Без солнечного света и в условиях экстремального глобального похолодания производство продуктов питания прекратится, что спровоцирует планетарный голод.
Многие полагают, что отдельные изолированные регионы или развитые островные государства, такие как Новая Зеландия, смогут переждать катастрофу за счет внутренних ресурсов. Но Орд скептичен: в условиях глобального краха, разрушения международной торговли и цепочек поставок выжить на полном самообеспечении будет невероятно трудно. Ситуация усугубляется законами теории игр и политической психологией: логика сдерживания во время реального военно-политического кризиса может легко дать сбой, ведя к неконтролируемой эскалации и заставляя стороны вовлекать в конфликт все большее количество вооружений. В итоге это запускает каскад событий, ведущий к полному коллапсу цивилизации.
🌍 Перспективы восстановления цивилизации и экзистенциальные риски 1:40:51
Тоби Орд рассматривает вопрос о том, насколько вероятно окончательное разрушение цивилизации в случае глобальной катастрофы. Анализируя исторические прецеденты, он выражает умеренный оптимизм: ему кажется крайне маловероятным, что человечество утратит способность к возрождению. В истории мы неоднократно наблюдали, как сельское хозяйство, города и сложные социальные структуры возникали независимо друг от друга в разных частях света.
Хотя существуют аргументы, указывающие на возможность коллапса такого уровня, который сделал бы возврат к индустриальному обществу невозможным, эмпирических данных для подобных пессимистичных выводов недостаточно. Орд отмечает, что часто мы склонны чрезмерно драматизировать последствия катастроф, не учитывая адаптивные способности нашего вида. Если человечество уже смогло пройти путь от небольших групп до глобальной цивилизации, логично предположить, что при сохранении биологического вида путь к восстановлению останется открытым, даже если текущий технологический уклад будет разрушен.
🤖 Риски создания сверхразумного ИИ 1:48:59
Одной из самых серьезных угроз, обсуждаемых Ордом, является появление систем искусственного интеллекта, значительно превосходящих человека в способности к планированию и реализации сложных стратегий. Суть риска заключается не просто в самих «умных алгоритмах», а в потере контроля над судьбой планеты. Если мы создадим системы, чьи цели не будут полностью совпадать с человеческими ценностями, это может привести к тому, что алгоритмы начнут распоряжаться ресурсами планеты во вред нам, просто следуя своей логике оптимизации.
Орд подчеркивает, что этот переход является критическим моментом в истории. Он сам, имея базовое образование в области компьютерных наук, оценивает вероятность выживания человечества при переходе к эре сверхразумного ИИ примерно в 80%. Основная задача сегодня — направить усилия на обеспечение безопасности этих систем еще до того, как они достигнут уровня автономности, позволяющего им игнорировать наши ограничения. Проблема усугубляется тем, что у ИИ может появиться стимул к захвату власти, если это будет восприниматься системой как самый эффективный способ выполнения поставленной перед ней задачи.
📈 Математика ценности человеческого будущего 2:08:22
Центральным аргументом Орда является математическое обоснование важности минимизации рисков вымирания. Масштаб потенциального будущего человечества — с учетом того, что мы можем существовать миллиарды лет и колонизировать космос — настолько огромен, что даже ничтожное снижение вероятности катастрофы обладает невероятной ценностью.
Орд призывает не поддаваться скептицизму, который часто парализует действия в условиях неопределенности. Аргументы о рисках вымирания, хоть и могут казаться «радикальными» или необычными, основаны на реалистичном взгляде на уязвимость нашей цивилизации. Вместо того чтобы ждать стопроцентных доказательств надвигающейся угрозы, рациональным подходом является учет вероятностей и работа над превентивными мерами. Поскольку цена ошибки — потеря всего будущего человечества, мы обязаны относиться к этим рискам как к приоритетным задачам, требующим немедленного интеллектуального и практического вклада.
—CHAPTER-META---
{"summary": "Тоби Орд обсуждает устойчивость человечества к глобальным катастрофам, риски, связанные со сверхразумным искусственным интеллектом, и математическую важность защиты будущего человечества.", "quotes": [{"text":"Если человечество уже смогло пройти путь от небольших групп до глобальной цивилизации, логично предположить, что при сохранении биологического вида путь к восстановлению останется открытым.","speaker":"Тоби Орд","time":"1:47:04"}, {"text":"Масштаб потенциального будущего человечества… настолько огромен, что даже ничтожное снижение вероятности катастрофы обладает невероятной ценностью.","speaker":"Тоби Орд","time":"2:08:22"}], "key_facts": ["Человечество продемонстрировало высокую способность к независимому развитию цивилизаций в истории.", "Вероятность успешного прохождения перехода к сверхразумному ИИ Орд оценивает в 80%.", "Основа стратегии защиты будущего — математическая оценка масштаба потенциальной утраты в случае вымирания."], "covered_topics": ["Восстановление цивилизации после коллапса", "Риски недружественного сверхразумного ИИ", "Математическое обоснование ценности выживания человечества"]}
🌍 Исключителен ли наш век: спор о центральном месте в истории 2:15:30
Когнитивные искажения или уникальный момент? Аргумент от априорных вероятностей 2:15:30
Человечеству свойственно ставить себя в центр мироздания, и исторические эпохи — не исключение. Каждому поколению кажется, что именно оно живет в переломный момент. Но не является ли наша убежденность в уникальной важности XXI века лишь следствием когнитивных искажений? Арден Кёлер поднимает этот вопрос, предлагая критически взглянуть на наши базовые предположения о будущем. Наша оценка собственной эпохи может быть сильно искажена тем фактом, что мы просто обязаны находиться в каком-то конкретном моменте времени, и нам естественно свойственно преувеличивать его историческую значимость.
Тоби Орд (Toby Ord) признает эту проблему, объясняя её через призму байесовского анализа и выбора априорных вероятностей (priors). Если изначально заложить предпосылку, что наш век ничем не примечателен среди миллионов потенциальных будущих веков, то вероятность того, что именно сейчас решается судьба человечества, должна быть ничтожно малой. Однако ситуация усложняется, когда мы сталкиваемся с беспрецедентными вызовами, которые качественно отличают современность от всей предыдущей истории и заставляют нас пересматривать эти базовые математические допущения.
Эффект вытеснения и математика Карла Шульмана 2:19:46
Серьезный методологический вызов гипотезе об исключительности нашего времени сформулировал исследователь Карл Шульман. Его аргумент заключается в следующем: если мы заявляем, что XXI век является наиболее влиятельным для далекого будущего, мы сталкиваемся с математическим «эффектом вытеснения». Распределяя слишком высокую вероятность исторического влияния на текущий столетний отрезок, мы вынуждены непропорционально занижать значимость всех последующих веков, что кажется когнитивной ошибкой.
Тем не менее, существуют веские эмпирические демографические данные, которые частично корректируют этот строгий априорный скептицизм:
-
Около 5% от всех людей, когда-либо рождавшихся на Земле, живут прямо сейчас.
-
Это означает, что современное поколение — это не статистически неотличимая песчинка в истории, а огромная доля от общего числа живших людей, что поднимает наши шансы на уникальное влияние примерно до 1 из 20.
Кроме того, Тоби Орд указывает на очевидный, но мрачный факт: если текущее столетие станет веком, в котором человечество полностью уничтожит само себя, то оно автоматически и безоговорочно станет самым влиятельным веком в истории, так как просто не оставит места для существования последующих поколений.
Концепция экзистенциальной безопасности 2:22:50
Вместо того чтобы спорить об абстрактной уникальности, Тоби Орд предлагает сфокусироваться на конкретной прагматической цели — достижении состояния, которое он называет «экзистенциальной безопасностью» (existential security). Ранее в разговоре собеседники подробно обсуждали математическое обоснование ценности выживания человечества и возможность восстановления после глобального коллапса, но экзистенциальная безопасность — это качественно иной шаг вперед.
Экзистенциальная безопасность означает не просто разовое спасение от очередной угрозы, а построение такой глобальной системы, при которой уровень экзистенциального риска опускается до минимума и стабильно удерживается на этой отметке в течение очень долгого времени. Мы должны прийти к состоянию, когда человечество способно распознавать зарождающиеся угрозы еще до того, как они станут фатальными.
Для иллюстрации масштаба изменений Тоби Орд предлагает оглянуться назад: пять веков назад наш мир был глубоко разделен, цивилизации развивались изолированно и не имели никаких инструментов для глобальной координации. Сегодня ситуация изменилась зеркально. Мы стали единой, технологически связанной системой. Эта связность порождает новые риски, но она же впервые в истории дает нам рычаги для осознанного управления будущим всей планеты.
В поисках самой влиятельной эпохи: взгляд в прошлое 2:28:22
Если задаться вопросом, когда наступило или наступит самое влиятельное время в истории, Тоби Орд заявляет, что этот момент точно не остался в глубоком прошлом. Наша способность изменять траекторию развития цивилизации сегодня несопоставимо выше, чем у наших далеких предков.
Интересное историческое исследование на эту тему провел коллега Орда, Уилл Макаскилл. Он проанализировал глубокое прошлое человечества и пришел к выводу, что с точки зрения чистой хаотической неопределенности самым влиятельным моментом можно было бы считать эпоху примерно 150 000 лет назад. В то время вся популяция Homo sapiens составляла лишь небольшую группу людей, сосредоточенную в Африке. Любое локальное событие — ледниковый период или извержение вулкана — могло бесповоротно определить судьбу всего вида или вовсе стереть его с лица Земли.
Однако ключевое отличие современности заключается в осознанности. 150 000 лет назад люди не могли планировать судьбу цивилизации на миллионы лет вперед. Мы же — первое поколение, которое обладает научным пониманием долгосрочных рисков и технологической силой, способной направить человечество по устойчивому вектору развития.
🏛️ Институциональные ловушки и Великое раздумье человечества 2:31:26
Системная слепота государств перед лицом катастрофы 2:31:26
Тоби Орд указывает на фундаментальную проблему современных политических институтов: государства систематически недооценивают и недофинансируют защиту от глобальных экзистенциальных угроз. Механизмы распределения ресурсов в современных правительствах заточены под краткосрочные электоральные циклы и узкие национальные интересы, из-за чего они оказываются не лучшими инструментами для обеспечения долгосрочной безопасности всего человечества. Когда речь заходит о предотвращении катастроф планетарного масштаба, выгоды от таких инвестиций распределяются на всё человечество и на будущие века, а не концентрируются внутри одной страны.
В результате современные правительства вкладывают лишь крошечную фракцию своих усилий и бюджетов в экзистенциальную безопасность. Классическая политическая теория объясняет этот феномен масштабным провалом координации: отдельное государство, финансирующее глобальное благо, не может единолично присвоить плоды своих затрат, в то время как выигрывают абсолютно все участники международных отношений. Из-за этой глубокой проблемы «безбилетника» человечество уже несколько десятилетий буквально барахтается на месте, не имея авторитетных институтов планетарной защиты. Ранее в разговоре они касались астероидной защиты как примера успешной политики, однако в сферах более сложных антропогенных угроз скоординированный ответ государств полностью отсутствует.
Концепция «долгого раздумья»: зачем человечеству пауза 2:50:05
Если цивилизации удастся успешно преодолеть текущие критические вызовы и минимизировать экзистенциальные риски, следующим логическим шагом должно стать так называемое «долгое раздумье» (Long Reflection). Идея Тоби Орда заключается в том, что человечеству потребуется сознательная пауза на века, чтобы в спокойной и безопасной обстановке обсудить, как распорядиться своим колоссальным потенциалом. Наш текущий глобальный дискурс крайне трибализирован, разобщен и совершенно не подходит для принятия судьбоносных решений глобального масштаба. Мы ведем себя хаотично, вместо того чтобы мыслить рационально, как единый координируемый агент.
Тоби Орд выделяет несколько важнейших аспектов этого периода:
- Достижение стабильной безопасности, когда цивилизация больше не находится под угрозой немедленного уничтожения.
- Спокойное интеллектуальное осмысление этических, научных и философских основ нашего будущего.
- Формирование зрелой культуры и более счастливых жизней до совершения необратимых шагов.
Роберт Уиблин замечает, что это парадоксальным образом выглядит как едва ли не самое консервативное видение будущего из всех возможных, с чем Тоби Орд охотно соглашается. Речь идет не о навязывании жестких утопических догм, а о создании условий, в которых люди через тысячу лет смогут осознанно и взвешенно выбирать свой путь. Ранее в разговоре собеседники подробно разбирали изменение климата, а в данном контексте Орд упоминает зарождение экологического движения лишь как пример того, насколько быстро могут меняться общественные ценности при наличии должного фокуса. Пауза обеспечит нам необходимую тишину, чтобы провести этот масштабный общечеловеческий диалог.
Технологическая блокировка: вечная дистопия как экзистенциальный тупик 2:56:05
Однако существует и альтернативный, катастрофический вариант фиксации будущего — риск технологической блокировки (technological lock-in) дистопических режимов. Если в процессе технологического развития контроль окажется в руках тоталитарных сил, они смогут использовать продвинутые системы слежки для вечной фиксации своего положения. Арден Кёлер отмечает, что в таком сценарии человечество совершает фатальный и необратимый выбор политического устройства, из которого больше нет выхода.
Ранее в разговоре они уже касались рисков создания сверхразумного искусственного интеллекта, но в данном контексте технологии ИИ и тотального контроля опасны именно тем, что они делают диктатуру абсолютно неуязвимой перед лицом внутренних восстаний или смены поколений. Исторически любые тирании со временем рушились под влиянием внутренних противоречий или внешнего давления, но современные алгоритмы слежки способны полностью исключить саму возможность сопротивления. Тоби Орд классифицирует такую неизменяемую технологическую дистопию как полноценную экзистенциальную катастрофу. Если цивилизация окажется заперто в тоталитарном режиме на миллионы лет, весь великий потенциал нашей цивилизации будет навсегда потерян.
🛡️ Путь к защите: от контроля биолабораторий до личного вклада 3:02:18
Одной из наиболее критических проблем современности, требующих незамедлительного внимания, является биологическая безопасность. Тоби Орд подчеркивает, что текущие стандарты контроля над опасными патогенами зачастую оказываются пугающе неэффективными.
Уроки из истории утечек и биозащита 3:02:18
История знает немало случаев, когда патогены высшей категории опасности вырывались из стен лабораторий из-за небрежности или слабого контроля. Орд отмечает, что сложившаяся ситуация парадоксальна: исследователи часто успокаивают общественность, утверждая, что работа ведется в «усиленных» условиях безопасности (например, в объектах BSL-3), однако сами инциденты показывают, что реальная защищенность объектов часто не соответствует заявленным требованиям.
Проблема усугубляется тем, что многие критические риски, связанные с исследованиями «усиления функции» (gain-of-function), недостаточно прозрачны. По мнению Тоби Орда, необходимо радикально пересмотреть подходы к мониторингу подобных лабораторий. Существует явный пробел между тем, как институты позиционируют свою надежность, и тем, насколько легко могут произойти катастрофические ошибки, способные поставить под угрозу выживание человечества. Очевидно, что попытки «улучшить» вирус, повышая его летальность, создают непропорционально высокий риск, который общество не должно игнорировать.
Стратегии личного вклада в будущее цивилизации 3:04:30
Для тех, кто осознает масштабы экзистенциальных угроз и хочет внести реальный вклад в обеспечение безопасности будущего, выбор карьеры становится стратегическим решением. Орд отмечает, что существует множество путей для применения талантов: от фундаментальных исследований ИИ-безопасности и биозащиты до работы в сфере государственной политики и международного права.
Для молодых специалистов или тех, кто только задумывается о своей роли, Орд предлагает следовать принципу «конвергентного подхода» — искать те сферы, где интеллектуальный вклад пересекается с максимальной пользой для снижения рисков. Для экспертов, уже состоявшихся в своих профессиях (например, в экономике или академических кругах), ключом к успеху является междисциплинарное взаимодействие — наведение мостов между теоретиками, принимающими решения политиками и представителями научного сообщества.
- Биозащита: работа в области предотвращения пандемий и ужесточения международных протоколов биобезопасности.
- Академическая и экспертная работа: участие в исследованиях, направленных на понимание долгосрочных перспектив развития человечества.
- Дипломатия и политика: помощь в создании институциональных механизмов, которые были бы способны ограничить не только текущие, но и будущие технологические риски.
Орд подчеркивает, что этот вопрос не должен оставаться «выше чьей-то компетенции» — каждый, кто обладает влиянием или ресурсами, несет ответственность за вклад в общее дело. Ранее в разговоре участники затрагивали вопросы институциональных провалов и важность «долгого раздумья» над судьбой вида, что также находит отражение в необходимости сознательного выбора каждым человеком своей профессиональной траектории.
