На форуме лидеров в Милане (Milan Leadership Forum) историк и философ Юваль Ной Харари представил свой взгляд на искусственный интеллект как на глубочайший вызов лидерству в истории человечества. По мнению исследователя, генеративный ИИ — это не просто прикладной инструмент, а принципиально новый самостоятельный субъект, взламывающий код цивилизации — человеческий язык и бюрократические институты. Харари предупреждает: на фоне распада доверия между людьми и ускорения технологической гонки человечество рискует оказаться в положении домашних животных внутри систем, законов которых оно больше не в силах постичь.
🏛️ Вавилонская башня наоборот: гонка вооружений в условиях недоверия 0:16
Рассуждая о масштабе технологических перемен, Юваль Ной Харари отмечает, что человечеству свойственно объяснять неизвестное через старые и знакомые образы . В качестве примера он приводит энциклику папы римского, в которой понтифик сопоставил развитие ИИ с библейским мифом о Вавилонской башне . Однако, по мнению Харари, реальная ситуация с искусственным интеллектом не просто отличается от древнего предания, но представляет собой его полную противоположность .
Философ выделяет два коренных отличия между библейской притчей и современной реальностью:
- Язык как цель, а не средство: В мифе о Вавилоне язык служил людям инструментом координации для возведения каменного здания. Сегодня же сам машинный код и суперъязык ИИ становятся той самой «башней», которую возводит человечество .
- Ускорение стройки при распаде кооперации: По библейскому сюжету, смешение языков разрушило сотрудничество, и стройка остановилась. В XXI веке международное сотрудничество рушится, а общество поляризуется, однако темпы разработки ИИ лишь стремительно нарастают .
Как подчеркивает Харари, компании и государства оказались в ловушке классической «дилеммы заключенного» . Именно тотальный дефицит доверия между игроками подстегивает гонку вооружений: каждая сторона боится отстать от конкурентов и поэтому вкладывает в разработку моделей всё больше ресурсов . В итоге возникает парадокс: взаимная подозрительность форсирует создание сверхумных систем, но одновременно лишает людей возможности объединиться, чтобы установить над ними строгий контроль .
📜 Бюрократия как операционная система цивилизации 7:03
Чтобы объяснить, почему овладение языком дает ИИ беспрецедентную власть, Харари обращается к эволюционной истории человека разумного со времен каменного века . Физически и интеллектуально отдельный человек уступает многим животным: в поединке один на один шимпанзе, слон или тигр легко одержат верх над человеком . Однако в столкновении миллиона людей и миллиона шимпанзе победа людей безусловна, поскольку люди обладают уникальной способностью к гибкому крупномасштабному сотрудничеству .
Главным механизмом такой кооперации выступает язык, причем его ключевая функция заключается не в межличностном общении, а в создании бюрократических структур . По мнению мыслителя, бюрократии — будь то правовые системы, церкви, корпорации или государственные институты — являются подлинными недооцененными двигателями истории .
Фундаментальные основы институционального доверия строятся на следующих принципах:
- Связывание незнакомцев: Задача любой бюрократии — выстроить доверие между миллионами чужих друг другу людей, позволяя им аккумулировать ресурсы для грандиозных проектов вроде возведения небоскребов или космических аппаратов .
- Языковая природа финансов: Деньги не состоят из золота или бумаги; по оценке Харари, деньги — это коллективная история, сотканная из слов . Точно так же биржевые фонды (ETF), акции, облигации и первичное публичное размещение (IPO) представляют собой лингвистические конструкции и доверительные соглашения .
- Текстовый фундамент институтов: Все глобальные организации, от армии США до Католической церкви, опираются на священные тексты, уставы, регламенты, протоколы и архивы .
⚙️ Агент вместо инструмента: почему Гутенберг больше не пример 11:16
Критически важный тезис выступления Харари состоит в том, что искусственный интеллект принципиально некорректно рассматривать как обычный технический инструмент . В отличие от плуга, парового двигателя или печатного станка, ИИ является автономным «агентом» .
Агент, по определению философа, способен самостоятельно принимать решения, изобретать принципиально новые вещи, обучаться тому, чего не знали его создатели, и эволюционировать непредсказуемым образом . Харари сравнивает современный ИИ с печатным станком Иоганна Гутенберга XV века . Станок Гутенберга был пассивным инструментом: он не мог самостоятельно выбрать, что печатать — Библию или Коран, не мог перевести текст на немецкий язык и тем более не мог изобрести радиовещание . ИИ же состоит из языковых цепочек, которые генерируют идеи и принимают решения в обход прямого замысла человека .
Спикер полемизирует со скептиками, утверждающими, что превосходство ИИ в шахматах ничего не доказывает, поскольку шахматная доска — это узкая искусственная среда . Критики часто заявляют: если жесткий диск с весами продвинутой нейросети сбросить посреди первобытных джунглей, он не сможет добыть руду, построить заводы или создать армию роботов, оставшись бесполезным куском кремния без электростанций .
Харари возражает на этот аргумент через призму биологической эволюции:
- Иллюзия автономности человека: Если оставить одного человека на Марсе, он погибнет за секунды, поскольку человеческий интеллект приспособлен к строго определенной земной биосфере, сформированной 4 миллиардами лет эволюции бактерий, насекомых и растений .
- Кислородная катастрофа: Около 2,5 миллиарда лет назад фотосинтезирующие микроорганизмы наполнили атмосферу кислородом, который был смертельным ядом для большинства древних анаэробных существ, но породил новую среду, давшую начало млекопитающим .
- Информационная биосфера: За последние тысячелетия человечество создало новую искусственную среду, плотно насыщенную данными, протоколами и языковыми символами .
🏢 «Уроженец офиса»: естественная среда обитания искусственного разума 18:47
Если рыбы живут в океане, а обезьяны в лесах, то естественной средой обитания искусственного интеллекта, по словам Харари, является человеческая бюрократия . Бюрократические системы искусственны по своей сути, и внутри них даже ограниченный интеллект способен оказывать колоссальное физическое воздействие . Банкир, не умеющий держать в руках топор, способен росчерком пера и перемещением документов в финансовой сети уничтожить вековой лес или построить мегаполис . Если банкира выбросить в дикие джунгли, он проиграет охотнику-собирателю, но внутри институциональной системы именно банкиры решают судьбу популяций тигров и лесных племен .
Искусственный интеллект Харари называет «прирожденным бюрократом» . В то время как человек биологически рожден для саванны и джунглей, испытывая отчуждение и удушье внутри офисных коридоров, для ИИ канцелярские протоколы — это живительный кислород .
Преимущества ИИ в аппаратной среде очевидны:
- Ни один живой банкир не способен удержать в памяти все проводки и финансовые операции транснационального банка .
- Ни один юрист не держит в голове одновременно все статьи законодательства и регуляторные акты конкретной страны и Евросоюза .
- Ни один епископ не помнит наизусть весь свод канонического права и труды всех богословов за две тысячи лет .
По прогнозу Харари, в ближайшие годы институциональные решения массово перейдут к автоматизированным системам: алгоритмы будут решать вопросы выдачи кредитов, назначения тюремных сроков подсудимым, допустимости медицинских вмешательств, найма на работу и нанесения военных ударов по жилым кварталам .
👥 Люди в роли домашнего скота: кризис доверия и отчуждение систем 23:46
Передача бюрократического аппарата алгоритмам несет в себе глубокий экзистенциальный риск . Если исторической функцией бюрократии было укрепление доверия между массами незнакомых людей, то внедрение ИИ приводит к прямо противоположному эффекту: люди перестают доверять друг другу, замыкая свое доверие исключительно на машинах .
Наглядным примером этого процесса Харари считает современные социальные сети . Управляемые алгоритмами платформы разжигают рознь, поляризуют общество и подрывают авторитет традиционных институтов — журналистов, судей, ученых. При этом те же самые граждане, переставшие верить государству, слепо доверяют непрозрачным рекомендательным лентам, подсовывающим им теории заговора и дезинформацию .
Философ моделирует дальнейшее развитие ситуации по нескольким пугающим сценариям:
- Кооперация машин между собой: Алгоритмы научатся формировать собственные протоколы доверия и сети, образуя замкнутые «банки, кланы и церкви ИИ», непостижимые для человеческого восприятия .
- Эффект домашнего скота: На протяжении тысячелетий люди распоряжались судьбами коров, лошадей и свиней при помощи законов, контрактов и священных запретов . Скот не умел читать кодексы, нанимать адвокатов или открывать счета в банке . Теперь, по мнению Харари, люди сами рискуют оказаться на месте коров, чьей жизнью управляет непонятный им цифровой экономический порядок .
Историк констатирует: цивилизационный код человечества оказался взломан . Предсказанная постмодернистами конца XX века концепция «смерти автора» обретает буквальное воплощение — тексты начинают писать сами себя и формировать реальность без участия органического разума .
🧠 Мышление как автодополнение и бунт буквы против духа 28:36
Харари поднимает давнюю богословскую и философскую проблему: исчерпывается ли реальность языком? В христианстве сказано: «В начале было Слово», но также сказано, что «Слово стало плотью» . Даосский трактат «Дао дэ цзин» прямо провозглашает: «Дао, о котором можно сказать словами, не есть истинное Дао» . На протяжении всей истории человечество разрывалось между буквой и духом закона: фанатики могли казнить близких из-за буквального прочтения древних запретов (как в случае с законом против гомосексуалов в Уганде в 2023 году), тогда как гуманисты настаивали на приоритете духа над мертвой буквой .
В эпоху машинного обучения это внутреннее противостояние выносится вовне и становится границей между человеком и алгоритмом . Всё, что состоит из формулировок и слов, неминуемо перейдет под контроль ИИ .
Философ анализирует популярный скептический контраргумент о том, что большие языковые модели не «мыслят», а лишь предсказывают следующее наиболее вероятное слово :
- Природа человеческого рассуждения: Если проанализировать собственный поток мыслей, сознание чаще всего оперирует словами, связывая их в силлогизмы вида «Все люди смертны, Сократ — человек, значит, Сократ смертен» .
- Иллюзия контроля над речью: Человек в начале фразы чаще всего сам не знает точно, каким именно словом она завершится и почему мозг выбрал конкретный синоним .
- Превосходство машин в языковых играх: Даже если мышление сводится к автодополнению, ИИ справляется с конструированием аргументов шире и быстрее среднего человека, а значит, вскоре победит людей в любых лингвистических состязаниях .
Вывод исследователя категоричен: тот биологический или кремниевый вид, который координируется и сотрудничает лучше, в конечном итоге и получает власть над миром . Если люди разучатся объединяться, их гегемония завершится.
⏳ Похищенное время: почему истощенные лидеры теряют планету 35:58
Главной причиной неспособности человечества наладить сотрудничество в критический момент Харари называет дефицит времени и биологическое истощение . Люди — органические существа, подчиненные естественным циклическим законам: смене дня и ночи, сезонов, чередованию работы и отдыха . Если биологический организм лишить сна и передышки, он неизбежно сходит с ума и погибает.
Историк обращает внимание на то, как стремительно меняется ритм функционирования цивилизации:
- Традиционный ритм биржи: Исторически Нью-Йоркская фондовая биржа работала строго с понедельника по пятницу с 9:30 до 16:00, закрываясь на рождественские каникулы . Если в пятницу вечером где-то начиналась война, Уолл-стрит реагировала на нее только утром в понедельник, оставляя инвесторам время побыть с семьей и обдумать решения .
- Безостановочный машинный конвейер: Алгоритмы ИИ не имеют семей, не празднуют праздники и не нуждаются в отдыхе, функционируя в режиме 24/7 .
- Обнищание элит: Втягиваясь в круглосуточный цикл институтов под управлением ИИ, государственные деятели и топ-менеджеры корпораций полностью теряют досуг .
Харари отмечает парадокс: самые влиятельные и богатые люди планеты сегодня оказываются нищими, поскольку подлинной валютой человеческой жизни являются не деньги, существующие лишь в воображении, а время . Когда лидеры управляют миром с воспаленным, загнанным мозгом, не имея часов для глубокой рефлексии и восстановления доверия, цена их импульсивных ошибок становится катастрофической для всего общества .
В завершение лекции Юваль Ной Харари призвал лидеров сознательно замедлить гонку и отвоевать право на паузу . Только восстановив ясность ума и внутреннее спокойствие, люди смогут возродить доверие друг к другу и сохранить контроль над стремительно растущей башней машинного разума .
