# Юваль Ной Харари: «ИИ — это первая технология, способная отнимать власть у человека» Источник: https://www.youtube.com/watch?v=e77a-SweV9o Канал: StarTalk Опубликовано: 08.12.2022 --- В новом выпуске подкаста StarTalk встретились две знаковые фигуры современности: астрофизик Нил Деграсс Тайсон и историк-философ Юваль Ной Харари. Участники обсудили механизмы доминирования человека на планете, роль вымышленных историй в создании государств и беспрецедентную угрозу, которую представляет искусственный интеллект для основ цивилизации. ## 👶 Почему историю нужно объяснять детям [[JUMP:01:37]] Юваль Ной Харари представил свою новую книгу для детей 8–12 лет — «Непобедимые мы: как люди захватили мир» (Unstoppable Us: How Humans Took Over the World) [1:50]. По мнению автора, дети интуитивно хотят понять свою идентичность, которая во многом сформирована историческими процессами. Харари приводит несколько примеров того, как прошлое живет в нас: * **Кулинария:** Любовь к шоколаду связывает современного человека с цивилизацией ольмеков из Мексики, которые около 4000 лет назад первыми научились его готовить [3:08]. * **Эмоции:** Страх перед «монстром под кроватью» — это историческая память о миллионах лет жизни в африканской саванне, когда ночные хищники представляли реальную угрозу для детей [3:23]. Те, кто просыпался и убегал от льва, выживали и передавали свои гены дальше [3:38]. ## 🤝 Секрет доминирования: масштабное сотрудничество [[JUMP:04:17]] Основной вопрос, который ставит Юваль Ной Харари: как биологически слабый вид сумел подчинить себе львов, слонов и китов? Как утверждает историк, индивидуально человек не намного умнее или сильнее шимпанзе [4:32]. В тесте на выживание на необитаемом острове Харари, по его собственному признанию, не поставил бы на себя в соревновании со свиньей или слоном, так как современный человек полностью зависит от других людей в вопросах добычи пищи и убежища [5:35]. Ключевым фактором успеха человечества Харари называет способность к гибкому сотрудничеству в огромных масштабах [6:01]. Нил Деграсс Тайсон соглашается, подчеркивая, что даже такие триумфы, как полет Нила Армстронга на Луну, были бы невозможны без совместного труда миллионов людей: ученых, инженеров, налогоплательщиков и политиков [8:15]. Шимпанзе или слоны не способны на подобное. Если собрать тысячу шимпанзе на стадионе, они не построят космический корабль — скорее всего, там начнется хаос [9:10]. ## 📖 Сила вымысла и «величайшие рассказчики» [[JUMP:09:23]] По мнению Харари, в основе любого масштабного сотрудничества лежит способность людей изобретать вымышленные истории и верить в них [9:37]. Речь идет не только о мифологии или религии, но и о фундаментальных институтах общества. **Деньги как коллективная галлюцинация** Харари считает, что деньги — это не объективная реальность (как звезды или черные дыры), а психологический концепт [11:06]. 1. Ни одно другое животное не понимает ценности денег: шимпанзе всегда предпочтет яблоко пачке стодолларовых купюр [11:45]. 2. Ценность денег (особенно криптовалют вроде Bitcoin) держится исключительно на доверии к истории, которую люди рассказывают друг другу [12:14]. 3. По словам Харари, величайшими сказочниками мира являются не лауреаты Нобелевской премии по литературе, а лауреаты премии по экономике, чьи «истории» заставляют верить всё человечество [11:19]. **Институты и право** Тайсон и Харари сошлись во мнении, что даже законы спорта (баскетбол, футбол) или конституции государств — это произвольные выдумки нашего воображения [15:50]. Однако Харари подчеркивает: осознание того, что закон является вымыслом, дает возможность его изменить [17:11]. В качестве примера он приводит Конституцию США, которая, в отличие от древних кодексов, не претендует на божественное происхождение и содержит механизмы для внесения поправок [18:17]. ## 🤖 Искусственный интеллект: первая автономная угроза [[JUMP:21:57]] Обсуждая будущее, Юваль Ной Харари выражает серьезную обеспокоенность развитием ИИ. Он называет ИИ первой технологией в истории, способной забирать власть у людей [22:10]. Основные аргументы Харари: * **Автономность:** В отличие от ядерной бомбы, решение о применении которой всегда принимает человек, ИИ может принимать решения самостоятельно [22:35]. Это касается как автономных систем вооружения («роботы-убийцы»), так и банковских алгоритмов, решающих, кому выдать кредит [23:15]. * **Конец приватности:** Харари утверждает, что ИИ угрожает полностью уничтожить человеческую частную жизнь [25:31]. Если у КГБ 1960-х годов не хватало физических ресурсов (агентов и аналитиков) для слежки за каждым из 200 миллионов граждан, то современный ИИ решает проблему анализа гигантских массивов данных мгновенно [26:50]. * **Добровольная слежка:** Люди сами носят на себе «агентов слежки» в виде смартфонов, добровольно предоставляя свои биометрические данные и отпечатки пальцев [27:17]. Нил Деграсс Тайсон возражает, предполагая, что ИИ может быть просто «лучшим банкиром», свободным от человеческих ошибок, которые привели к кризису 2007 года [24:52]. Харари парирует тем, что нет никаких гарантий отсутствия у ИИ предвзятости, расизма или гомофобии, унаследованных от разработчиков [24:11]. ## 📉 Самая мирная эпоха и риск регресса [[JUMP:31:11]] Несмотря на текущие конфликты, Харари напоминает, что последние десятилетия были самым мирным периодом в истории человечества [35:52]. Статистические данные, приведенные собеседниками: * В период с 1939 по 1945 годы во время Второй мировой войны погибало в среднем 1000 человек в час [36:19]. * Исторически правители тратили на армию более 50% государственного бюджета. В последние десятилетия этот показатель в среднем по миру составлял около 6% [37:12]. По мнению Харари, российское вторжение в Украину и общая дезинтеграция мирового порядка угрожают возвращением к эпохе войн [37:26]. Это приведет к тому, что ресурсы, предназначенные для учителей и врачей, снова пойдут на танки и ракеты [37:39]. В такой ситуации, полагает гость, у человечества не будет шансов справиться с изменением климата или регулированием опасных технологий [38:07]. ## 🧪 Доверие к науке как повод для оптимизма [[JUMP:38:45]] В завершение беседы Харари отметил, что, несмотря на активность сторонников теорий заговора, уровень доверия к науке в мире беспрецедентно высок. Он сравнивает пандемию COVID-19 с эпидемией Черной смерти в Средневековье. Во время недавней пандемии даже религиозные лидеры (Папа Римский, раввины в Израиле, муллы в Иране) признали авторитет ученых и закрыли храмы ради безопасности прихожан [39:53]. Харари считает важным ценить этот прогресс, чтобы не впадать в пораженчество и продолжать усилия по сохранению достижений цивилизации [40:20].