Юваль Ной Харари: «ИИ — это первая технология, способная отнимать власть у человека»

StarTalk 798 тыс. 42 мин 4 мин 08.12.2022
Главное

В новом выпуске подкаста StarTalk встретились две знаковые фигуры современности: астрофизик Нил Деграсс Тайсон и историк-философ Юваль Ной Харари. Участники обсудили механизмы доминирования человека на планете, роль вымышленных историй в создании государств и беспрецедентную угрозу, которую представляет искусственный интеллект для основ цивилизации.

👶 Почему историю нужно объяснять детям 1:37

Юваль Ной Харари представил свою новую книгу для детей 8–12 лет — «Непобедимые мы: как люди захватили мир» (Unstoppable Us: How Humans Took Over the World) . По мнению автора, дети интуитивно хотят понять свою идентичность, которая во многом сформирована историческими процессами.

Харари приводит несколько примеров того, как прошлое живет в нас:

🤝 Секрет доминирования: масштабное сотрудничество 4:17

Основной вопрос, который ставит Юваль Ной Харари: как биологически слабый вид сумел подчинить себе львов, слонов и китов? Как утверждает историк, индивидуально человек не намного умнее или сильнее шимпанзе . В тесте на выживание на необитаемом острове Харари, по его собственному признанию, не поставил бы на себя в соревновании со свиньей или слоном, так как современный человек полностью зависит от других людей в вопросах добычи пищи и убежища .

Ключевым фактором успеха человечества Харари называет способность к гибкому сотрудничеству в огромных масштабах . Нил Деграсс Тайсон соглашается, подчеркивая, что даже такие триумфы, как полет Нила Армстронга на Луну, были бы невозможны без совместного труда миллионов людей: ученых, инженеров, налогоплательщиков и политиков .

Шимпанзе или слоны не способны на подобное. Если собрать тысячу шимпанзе на стадионе, они не построят космический корабль — скорее всего, там начнется хаос .

📖 Сила вымысла и «величайшие рассказчики» 9:23

По мнению Харари, в основе любого масштабного сотрудничества лежит способность людей изобретать вымышленные истории и верить в них . Речь идет не только о мифологии или религии, но и о фундаментальных институтах общества.

Деньги как коллективная галлюцинация Харари считает, что деньги — это не объективная реальность (как звезды или черные дыры), а психологический концепт .

  1. Ни одно другое животное не понимает ценности денег: шимпанзе всегда предпочтет яблоко пачке стодолларовых купюр .
  2. Ценность денег (особенно криптовалют вроде Bitcoin) держится исключительно на доверии к истории, которую люди рассказывают друг другу .
  3. По словам Харари, величайшими сказочниками мира являются не лауреаты Нобелевской премии по литературе, а лауреаты премии по экономике, чьи «истории» заставляют верить всё человечество .

Институты и право Тайсон и Харари сошлись во мнении, что даже законы спорта (баскетбол, футбол) или конституции государств — это произвольные выдумки нашего воображения . Однако Харари подчеркивает: осознание того, что закон является вымыслом, дает возможность его изменить . В качестве примера он приводит Конституцию США, которая, в отличие от древних кодексов, не претендует на божественное происхождение и содержит механизмы для внесения поправок .

🤖 Искусственный интеллект: первая автономная угроза 21:57

Обсуждая будущее, Юваль Ной Харари выражает серьезную обеспокоенность развитием ИИ. Он называет ИИ первой технологией в истории, способной забирать власть у людей .

Основные аргументы Харари:

Нил Деграсс Тайсон возражает, предполагая, что ИИ может быть просто «лучшим банкиром», свободным от человеческих ошибок, которые привели к кризису 2007 года . Харари парирует тем, что нет никаких гарантий отсутствия у ИИ предвзятости, расизма или гомофобии, унаследованных от разработчиков .

📉 Самая мирная эпоха и риск регресса 31:11

Несмотря на текущие конфликты, Харари напоминает, что последние десятилетия были самым мирным периодом в истории человечества .

Статистические данные, приведенные собеседниками:

По мнению Харари, российское вторжение в Украину и общая дезинтеграция мирового порядка угрожают возвращением к эпохе войн . Это приведет к тому, что ресурсы, предназначенные для учителей и врачей, снова пойдут на танки и ракеты . В такой ситуации, полагает гость, у человечества не будет шансов справиться с изменением климата или регулированием опасных технологий .

🧪 Доверие к науке как повод для оптимизма 38:45

В завершение беседы Харари отметил, что, несмотря на активность сторонников теорий заговора, уровень доверия к науке в мире беспрецедентно высок. Он сравнивает пандемию COVID-19 с эпидемией Черной смерти в Средневековье. Во время недавней пандемии даже религиозные лидеры (Папа Римский, раввины в Израиле, муллы в Иране) признали авторитет ученых и закрыли храмы ради безопасности прихожан .

Харари считает важным ценить этот прогресс, чтобы не впадать в пораженчество и продолжать усилия по сохранению достижений цивилизации .

💬 Цитаты

«Деньги — это не золото или бумага. Деньги — это просто доверие.»

Юваль Ной Харари 15:23

«ИИ — это первая технология в истории, способная забирать власть у нас, потому что она может принимать решения самостоятельно.»

Юваль Ной Харари 22:10

«КГБ 1960-х не мог следить за каждым, потому что у него не было 200 миллионов агентов. Теперь агентов заменяют смартфоны, которые люди носят сами.»

Юваль Ной Харари 26:35
👥 Спикеры
📚 Упомянутые книги
📖 Термины
Ольмеки
Древняя мезоамериканская цивилизация, существовавшая на территории современной Мексики.
Экзистенциальная угроза
Риск, масштаб которого может привести к полному уничтожению человечества или необратимому краху цивилизации.
📊 Цифры
🗓 Хронология
  1. 4000 лет назад Ольмеки открыли способ приготовления шоколада.
  2. 1920-е Гиперинфляция в Веймарской республике (Германия).
  3. 1939–1945 Вторая мировая война.
  4. 1946 Худшая инфляция в истории в Венгрии (купюры в квинтиллионы).
  5. 2007 Мировой финансовый кризис.
⚖️ Другая сторона
История и культура Юваль Ной Харари Нил Деграсс Тайсон StarTalk Искусственный интеллект Sapiens