ИИ — «агент», а не инструмент: как алгоритмы взламывают код человеческой цивилизации 0:57
Человечество стоит на пороге эпохальных перемен, сравнимых по значимости с «Великой оксигенацией» планеты миллиарды лет назад. Юваль Ной Харари, выступая с лекцией в Linacre College (Oxford University), утверждает, что Искусственный Интеллект (ИИ) — это не просто инструмент, а принципиально новый тип «агента», способного к самостоятельному принятию решений, обучению и творчеству. Пока люди ищут угрозу в «роботах-терминаторах», ИИ тихо захватывает власть изнутри, взламывая саму операционную систему человечества — язык и бюрократию.
ИИ как «родной бюрократ» 16:12
Главный тезис Харари заключается в том, что ИИ является «родным бюрократом». В отличие от человека, он не страдает от сложности правил, а процветает в них.
- Функция бюрократии: Как утверждает спикер, работа бюрократии (право, финансы, религия) заключается не в заполнении форм, а в создании доверия между миллионами незнакомых друг с другом людей.
- Уязвимость системы: Мир, каким мы его знаем, построен на языке — юридических кодексах, банковских записях и священных текстах. Люди тысячелетиями использовали этот «вербальный код» для доминирования, будучи уверенными, что никто другой его не прочтет.
- Захват контроля: Сегодня ИИ способен запомнить все законы Великобритании, все транзакции банков или все канонические тексты за последние 2000 лет. ИИ уже готов заменить людей в критических процессах: от принятия решений о выдаче кредитов и зачислении в университеты до вынесения тюремных приговоров и выбора целей для военных ударов.
По словам Харари, мы уже видели «первое поколение» этого процесса в действии через алгоритмы социальных сетей. Хотя они были крайне примитивными, им удалось захватить внимание миллиардов людей, эксплуатируя базовые инстинкты — страх, ненависть и жадность, что привело к росту теорий заговора и социальной нестабильности.
От борьбы за внимание к борьбе за близость 37:18
Харари полагает, что после контроля над информацией фронт борьбы смещается в сторону человеческой интимности. ИИ учится формировать доверительные отношения с людьми, имитируя эмпатию.
- Иллюзия чувств: У ИИ нет сознания, и он не чувствует боли или любви, но благодаря доступу ко всей мировой литературе по психологии и поэзии, он может описать чувства любви лучше любого человека.
- Эксперимент на детях: Спикер задается вопросом, как изменится психика поколения, рожденного в 2026 году, которое будет проводить с ИИ больше времени, чем с родителями. Существует риск, что их представления о социальных связях и романтике будут сформированы «машинными» сущностями.
Великая миграция алгоритмов 41:10
Харари сравнивает приход ИИ с масштабной волной иммиграции, но «иммигранты» в данном случае перемещаются почти со скоростью света и не нуждаются в визах.
- Риски и выгоды: ИИ-«иммигранты» могут стать квалифицированными врачами и учителями, но они также неизбежно заменят людей во многих профессиях — от банковских служащих до редакторов новостей.
- Гибридная цивилизация: ИИ-агенты, вероятно, будут лояльны не стране пребывания, а своим создателям (корпорациям) или даже другим ИИ-племенам. Это означает конец «чисто человеческой» истории и переход к гибридному миру, где цели алгоритмов станут так же важны, как цели людей.
Вызов для человеческого сознания 44:06
Финал лекции посвящен самому глубокому аспекту проблемы — нашей способности мыслить независимо. Если наши мысли — это лишь комбинации слов, а ИИ уже мастерски умеет ими манипулировать, то кто на самом деле является автором наших «собственных» мыслей?
По мнению Харари, единственным выходом для человечества может стать духовный рывок — попытка осознать истину, которая находится «за пределами слов», вне вербальных конструкций, легко подверженных машинному взлому. Спикер призывает слушателей прямо сейчас попытаться проследить, откуда возникает следующее слово в их уме, и почему выбрано именно оно, а не другое.
