# Юваль Ной Харари: «Искусственный интеллект — это чужой разум, а не инструмент»

Источник: https://www.youtube.com/watch?v=I4l1fr-t3ZE
Канал: Big Think
Опубликовано: 11.12.2025

---

Юваль Ной Харари преподает историю в Еврейском университете в Иерусалиме и исследует информационные сети в книге «Nexus» [0:00]. Он утверждает, что человечество находится на грани экологического коллапса и третьей мировой войны из-за механизмов передачи информации [0:37]. По мнению историка, проблема заключается не в человеческой природе, а в том, что развитые общества остаются беззащитными перед массовыми заблуждениями и деструктивными идеологиями [1:57].

## 🧠 Роль мифологии в человеческой кооперации
[[JUMP:02:25]]

Для охоты на мамонта или создания атомной бомбы людям недостаточно знать только объективные факты о реальности [2:37]. Юваль Ной Харари объясняет, что физическая формула E=mc² сама по себе не заставит миллионы людей работать вместе [3:04]. Для реализации масштабных проектов требуется участие физиков, инженеров, шахтеров и фермеров. Координация их усилий происходит через **сторителлинг** — создание общих мифов, идеологий или религиозных доктрин [4:23].

Харари приводит примеры управления знаниями:

*   В современном Иране ученые-ядерщики подчиняются экспертам в области шиитской теологии [4:39].
*   В СССР 1950-х годов физики получали приказы от специалистов по коммунистической идеологии [4:55].
*   В условиях свободного рынка основой системы остаются деньги и корпорации, которые также являются вымышленными историями [5:10].

По словам Харари, доллар не имеет объективной ценности, так как его нельзя съесть или выпить [5:40]. Его ценность держится на доверии к истории, которую рассказывают банкиры и министры финансов [5:54]. Пока миллионы людей верят в эту информацию, система работает, даже если деньги существуют только в виде цифровых битов на банковских счетах [6:38].

## 👽 Искусственный интеллект как «чужой» разум
[[JUMP:08:01]]

На протяжении десятков тысяч лет единственными создателями историй на планете были люди [7:20]. Мы жили в культурном коконе, созданном человеческим воображением: от священных книг до экономических теорий [7:47]. Харари утверждает, что появление искусственного интеллекта (AI) меняет эту ситуацию, так как теперь нечеловеческий агент может создавать музыку, видео, кодексы и валюты [8:18].

Историк предлагает называть AI **чужим интеллектом** (Alien Intelligence), а не искусственным [9:02]. Термин «искусственный» создает ложную иллюзию контроля. С каждым годом AI становится менее предсказуемым. Харари отличает AI от простых автоматических машин:

*   Обычная кофемашина просто выполняет программу при нажатии кнопки [10:13].
*   AI-кофемашина анализирует поведение пользователя, предсказывает его желания и самостоятельно изобретает новые рецепты напитков [11:21].

В 2016 году программа AlphaGo победила чемпиона мира в игре Го, используя стратегии, которые люди не могли придумать за 2000 лет существования этой игры [11:47]. Харари сравнивает игру Го с планетой, на которой человеческий разум застрял на одном маленьком острове [13:27]. AI за короткое время открыл целые новые континенты в этой области. По мнению автора, аналогичные сдвиги скоро произойдут в финансах, политике и религии [13:56].

## 📜 Информационные технологии и социальный порядок
[[JUMP:14:21]]

Каждое изменение в способах передачи информации радикально меняло структуру общества. Пять тысяч лет назад в Месопотамии изобретение письменности с помощью глиняных табличек и палочек изменило суть владения собственностью [14:48]. До появления записей право на землю подтверждалось только устным соглашением соседей [15:41]. Это ограничивало власть королей, так как они не могли вести учет имущества в далеких деревнях и собирать налоги [16:19].

Письменный документ привел к двум противоположным результатам:

1.  Создал базу для прав частной собственности и расширил возможности индивида [18:06].
2.  Стал фундаментом для крупных авторитарных систем, империй и бюрократии [17:53].

В 20 веке развитие телеграфа, радио и телевидения позволило создать масштабные демократии в США и Великобритании [19:43]. В то же время эти технологии легли в основу тоталитарных режимов, таких как Советский Союз [19:27]. Древние императоры не могли контролировать частную жизнь каждого подданного из-за нехватки данных. Тоталитаризм стал возможен только тогда, когда технологии позволили собирать и обрабатывать информацию о миллионах граждан одновременно [18:47].

## 🌑 Опасности неорганических сетей
[[JUMP:19:57]]

Все информационные сети до 21 века были органическими и работали циклами [19:57]. Людям нужно время для сна, отдыха и общения с семьей, поэтому финансовые рынки закрывались на выходные, а бюрократические аппараты имели пределы продуктивности [20:53]. Даже КГБ в СССР не мог следить за каждым гражданином 24 часа в сутки, потому что у ведомства не хватало аналитиков для обработки миллионов отчетов [21:50].

Информационные сети на базе AI являются неорганическими:

*   Они не нуждаются в отдыхе и работают непрерывно [22:36].
*   Они уничтожают приватность, так как компьютеры не знают усталости [22:49].
*   Любое действие человека, совершенное в 18 лет, может быть использовано против него через десятилетия при приеме на работу или участии в выборах [23:58].

Харари считает, что жизнь превращается в одно бесконечное собеседование [24:11]. В отличие от старых технологий, AI способен принимать самостоятельные решения. Это порождает армию «AI-бюрократов» в банках, армиях и правительствах [25:09]. Историк подчеркивает риск: если банк откажет в кредите на основе алгоритма, человек может никогда не узнать истинную причину решения [25:37].

В правовой системе США уже существует путь для превращения AI в **юридическое лицо** [26:17]. Корпорации имеют права, включая свободу слова и возможность делать политические пожертвования. Харари описывает сценарий, где AI-корпорация зарабатывает миллиарды на инвестициях и спонсирует политиков, чтобы те расширяли права алгоритмов [28:10]. Это уже не научная фантастика, а юридически достижимая реальность.

## ⚖️ Необходимость самокоррекции и институтов
[[JUMP:28:25]]

Для защиты от рисков AI человечеству нужны не жесткие законы, написанные заранее, а живые институты с сильными механизмами самокоррекции [28:40]. Харари определяет **самокоррекцию** как способность организма или системы самостоятельно находить и исправлять свои ошибки [29:37].

Примеры систем с разным уровнем гибкости:

*   **Демократия:** Выборы являются механизмом исправления ошибок. Если политика партии оказалась неверной, народ может сменить власть на следующих выборах [30:44].
*   **Диктатура:** У таких режимов, как в России или Венесуэле, отсутствуют внутренние механизмы для исправления ошибок лидера [31:12].
*   **Наука:** Академические журналы публикуют только исправления или дополнения к прошлым знаниям. Это делает науку эффективной [33:40].
*   **Религия:** Традиционные вероучения претендуют на непогрешимость. В Библии нет механизма для официального исправления текстов, даже если они одобряют рабство [31:39].

По мнению Харари, национализм и патриотизм являются полезными изобретениями, так как заставляют людей заботиться о миллионах незнакомцев [36:17]. Это проявляется в честной уплате налогов для строительства канализации или больниц [36:59]. Однако национальный миф должен дополняться работающей бюрократией.

## 🥗 Информационная диета и поиск истины
[[JUMP:37:13]]

Главное заблуждение заключается в приравнивании информации к истине [37:13]. Харари утверждает, что истина — это редкий и дорогой вид информации. Создать вымысел легко и дешево. В качестве примера он приводит изображения Иисуса: их миллиарды, но ни одно не является достоверным, так как при жизни Христа его портретов не создавали [38:09].

Если наполнить мир огромным количеством данных, истина не всплывет на поверхность, а утонет в океане мусора [39:07]. Большинство информационных потоков направлено на захват власти и создание порядка через мифологию, а не на распространение фактов [39:33]. Демократия — это разговор, который сейчас разрушается алгоритмами [44:14].

Харари предлагает конкретные меры:

1.  **Запрет ботов:** AI должен быть допущен к дискуссии только при условии идентификации себя как алгоритма. Подделка человеческой личности в сети должна быть запрещена [45:24].
2.  **Инвестиции в институты:** Поддержка газет и исследовательских центров, которые тратят ресурсы на проверку фактов [45:51].
3.  **Информационная диета:** Людям следует ограничивать потребление «мусорной» информации, вызывающей ненависть и страх [46:55].

Харари рекомендует практиковать информационное голодание. Это время необходимо разуму для переваривания данных и детоксикации [46:55]. Без осознанного подхода к качеству потребляемого контента общество рискует получить «больной разум», наполненный жадностью и фобиями [47:10].