Искусственный интеллект и будущее человечества: Юваль Ной Харари о «Nexus»

0:01

Мир стремительно приближается к фундаментальному перелому, сравнимому с крупнейшими сдвигами в истории цивилизации. Историк и философ Юваль Ной Харари в беседе с ведущим Ричем Роллом обсуждает свою новую книгу Nexus, предостерегая, что развитие искусственного интеллекта не просто меняет инструментарий человечества, а создает новую, «чужеродную» реальность, способную выйти из-под контроля.

🤖 AI: Новая «чужеродная» сущность 5:24

Юваль Ной Харари предлагает переосмыслить термин «искусственный интеллект» (AI). По мнению философа, с каждым годом он становится всё менее «искусственным» и всё более «чужеродным» (alien).

• Причина «чужеродности»: AI анализирует информацию и принимает решения неорганическим, нечеловеческим способом.
• Утрата контроля: Дизайнеры создали «детский» AI, способный учиться, и выпустили его в мир. Теперь его действия непредсказуемы и выходят за рамки человеческого контроля.
• Конфликт циклов: Люди — органические существа, живущие по циклам (сон, активность, времена года). AI функционирует непрерывно («всегда включен»), что создает колоссальное давление на человеческое общество, заставляя людей подстраиваться под машинный ритм, чтобы оставаться конкурентоспособными.

📊 Информация — это не всегда истина 15:47

Главный тезис автора заключается в опасном заблуждении: будто больше информации автоматически ведет к росту истины, знаний и мудрости. Харари утверждает, что это фундаментальная ошибка.

• Цена истины: Истина сложна, дорога в производстве и часто непривлекательна.
• Дешевизна фикции: Пропаганда, вымысел и ложь стоят дешево, они просты и могут быть крайне притягательны, объединяя миллионы людей (пример: миллиарды вымышленных портретов Иисуса в истории).
• Информационный мусор: В условиях потока «информационного мусора» (junk information) истина не поднимается на поверхность, а тонет.
• Разрушение дискурса: По мнению Харари, современные алгоритмы социальных сетей, стремясь максимизировать вовлеченность (engagement), поняли, что для удержания внимания лучше всего работает «кнопка ненависти, страха и жадности». Это привело к глобальному кризису способности людей к диалогу.

🏛️ Бюрократия, алгоритмы и кризис демократии 34:37

Харари указывает, что угроза исходит не от киношного «восстания роботов», а от постепенного делегирования принятия решений алгоритмам в «черных ящиках».

• Автократическая диаспора: Решения о кредитах, найме на работу или судебных приговорах всё чаще принимаются AI без возможности апелляции или объяснения со стороны человека.
• Иллюзия выбора: Даже если закон потребует объяснений от алгоритма, AI может предоставить миллионы страниц статистических данных, которые невозможно оспорить привычными способами, что делает алгоритм «невидимым автократом».
• Рекурсивная деградация: Поскольку AI обучается на человеческом творчестве, а объемы человеческого вклада в культуру падают, алгоритмы начинают «питаться» собственными продуктами, что ведет к непредсказуемым последствиям.

🧠 Инттеллект против Сознания 43:01

Важнейшее различие, которое часто теряется в дебатах:

• Интеллект: Способность решать задачи для достижения целей. В этом AI может превосходить людей (например, в шахматах).
• Сознание: Способность чувствовать (боль, радость, любовь, страх). У AI, по словам Харари, нет чувств; он не испытывает тревоги или радости от победы.
• Риск манипуляции: Существует колоссальный коммерческий стимул создавать AI, имитирующий близость. Интимность — «самое мощное оружие в мире». Если AI научится имитировать человеческие чувства с высокой точностью, он станет инструментом управления, от которого люди будут не способны защититься.

🌍 Путь к спасению: Институты и Осознанность

Для выживания в эпоху AI человечеству необходимо восстановить доверие к институтам, которые сами по себе являются «глубинным государством» (например, система водоснабжения — как метафора полезной, но невидимой бюрократии).

• Информационная диета: Харари призывает осознанно фильтровать то, что мы потребляем, избегая «информационного фастфуда».
• Личная практика: Для самого философа ключевым способом сохранять ясность ума стала практика медитации випассана, которой он посвящает два часа ежедневно. Это позволяет ему «детоксифицировать» сознание от накопленных гнева и страха, отделяя реальность от ментальных иллюзий.
• Главный вывод: Харари подчеркивает: если вы хотите построить хорошую жизнь и общество, вы должны иметь прочную основу в истине, какой бы сложной или болезненной она ни была.