Харари на шоу Билью: «ИИ — первое изобретение, отбирающее власть»

Tom Bilyeu / Impact Theory 355 тыс. 1 ч 27 мин 16 мин 03.01.2023
Главное

В эпоху стремительного развития искусственного интеллекта и биотехнологий человечество оказывается на грани масштабных потрясений. Известный историк и философ Юваль Ной Харари в беседе с Томом Билью на шоу Impact Theory обсуждает три главных правила выживания в XXI веке, природу современного идеологического раскола на Западе и скрытые угрозы технологического прогресса. По мнению мыслителя, спасение кроется не в поиске новых мифов, а в способности вовремя отказываться от старых убеждений и заземляться в базовой человеческой биологии.

🧠 Три столпа выживания в эпоху перемен 0:00

Ведущий шоу Impact Theory Том Билью начинает беседу с цитаты Юваля Ноя Харари: «С психологической точки зрения гораздо хуже чувствовать себя ненужным, чем эксплуатируемым». В условиях тотальной автоматизации и наступления искусственного интеллекта этот тезис приобретает пугающую актуальность. Чтобы не остаться на обочине истории, гость предлагает три фундаментальных принципа, которые позволят человеку не просто выжить, но и процветать.

Во-первых, по словам Харари, необходимо безоговорочно принять концепцию непрерывных изменений. Историческая модель, когда человек в молодости осваивал одну профессию или уклад жизни и пользовался ими до старости, окончательно мертва. Сегодня учиться и меняться придется на протяжении всей жизни.

Во-вторых, ключевым качеством выживания в XXI веке становится ментальная гибкость, которая подразумевает не только освоение нового, но и умение вовремя «отпускать» старое. Философ подчеркивает, что людям психологически тяжело отказываться от багажа, на накопление которого ушли годы. Харари приводит радикальный пример: с развитием виртуальной реальности и метаверсов человеку, возможно, придется заново учиться ходить и видеть. Если в 46 лет вы начнете проектировать цифровую одежду для виртуальных миров, вам придется забыть привычные законы физики, градации света и земное притяжение, ведь в виртуальном пространстве они работают иначе.

Историк выражает оптимизм по поводу адаптационных способностей человека. Он напоминает, что потенциал человеческого разума раскрыт далеко не полностью, и проводит аналогию с крупнейшим сдвигом на рынке труда XX века — феминистской революцией. Изменение гендерных ролей и открытие доступа к образованию для женщин удвоили продуктивность человечества без всякого генетического редактирования. Потенциал ученых, судей и президентов всегда присутствовал в женской ДНК, его нужно было просто разблокировать.

Третий принцип Харари гласит: человек не способен справиться с грядущим кризисом в одиночку. Возложение всей ответственности за адаптацию на плечи конкретного индивида — тупиковый путь. Харари утверждает, что переходный период потребует масштабного вмешательства государств и организаций. Потребуется новая глобальная инфраструктура для финансовой поддержки и переобучения людей в возрасте 40–50 лет, а также беспрецедентная государственная поддержка ментального здоровья, поскольку процесс постоянного переизобретения себя станет для зрелых людей источником колоссального психологического стресса.

🤖 Ловушка автоматизации: почему кодинг не спасет дальнобойщиков 7:03

Том Билью напоминает о знаменитом интернет-меме «учись кодить» (learn to code), за употребление которого пользователей даже временно блокировали в некоторых социальных сетях. Ведущий отмечает, что, на первый взгляд, призыв осваивать программирование кажется логичным решением для условного 46-летнего водителя грузовика, чья профессия уходит в прошлое. Билью поддерживает идею создания государственной сети социальной безопасности, однако предостерегает от того, чтобы государство «тащило людей через финишную черту за руку», усматривая в этом прямой путь к тирании. По мнению ведущего, природа безжалостна и готова стереть с лица земли целое поколение, не сумевшее приспобиться.

Юваль Ной Харари, напротив, ставит под сомнение надежность профессии программиста, указывая на то, что написание кода может быть автоматизировано алгоритмами в первую очередь. По мнению гостя, в будущем гораздо более востребованными окажутся психотерапевты, организаторы сообществ и даже философы, чьи глубокие гуманитарные вопросы внезапно превратятся в технические задачи для ИТ-гигантов. Харари объясняет, что автоматизировать работу ученого-компьютерщика проще, чем труд медсестры. Программирование оперирует исключительно потоками данных, тогда как медсестре, меняющей повязку или делающей укол кричащему ребенку, требуется сложнейшая комбинация развитой моторики, эмпатии и социальных навыков, воссоздать которую в роботах крайне тяжело.

Проблема автоматизации носит глобальный характер. Историк описывает сценарий кризиса текстильной промышленности в Латинской Америке (например, в Мексике или Гватемале). Когда производство одежды полностью автоматизируют, шить рубашки в Калифорнии станет дешевле, чем в Мексике. При этом возникнет индустрия виртуальной моды для метаверсов, но превратить 40-летнего безработного ткача из гватемальской провинции в цифрового дизайнера без системной поддержки невозможно. Харари заявляет, что если богатые страны не помогут развивающимся регионам справиться с этим транзитом, планету ждет геополитическая катастрофа. Резюмируя, гость подчеркивает:

🏛️ Кризис либерализма и анатомия идеологий XX века 12:51

Размышляя о современных «культурных войнах», Том Билью приводит парафраз более раннего высказывания Харари: если бы Владимир Путин подождал еще 5–10 лет перед вторжением на Украину, Запад, скорее всего, рухнул бы изнутри под тяжестью собственных разногласий. Ведущий указывает на естественное эволюционное напряжение между левыми и правыми силами: левые стремятся помочь всем членам социума, что порождает проблему «нахлебников», а правые требуют личной ответственности. Равновесие удерживается в центре, но сегодня обе стороны пытаются уничтожить друг друга, что ведет к тирании.

Харари соглашается, что суть恢复демократии — во множестве голосов, где политический оппонент воспринимается как заблуждающийся человек, но не как экзистенциальный враг. Как только стороны начинают видеть друг в друге абсолютное зло, демократия гибнет, уступая место гражданской войне или диктатуре. Парадокс, по мнению историка, заключается в том, что реальные идеологические различия между людьми на Западе сегодня минимальны, если сравнивать их с ситуацией полувековой или вековой давности.

Чтобы объяснить текущий кризис, Харари обращается к трем великим нарративам XX века:

  1. Фашизм. Утверждает, что государство и нация — единственное, что имеет значение. Здоровый национализм основан на любви к согражданам и готовности платить налоги ради их блага. Фашизм же превращает нацию в абсолют, стирая личность. Само слово происходит от латинского fasces — пучок прутьев. Один прутик легко сломать, но в связке они несокрушимы. Посыл фашизма: сам по себе ты ничто, коллектив — все.
  2. Коммунизм. Вариант коллективизма, где вместо нации во главу угла ставится рабочий класс. Индивид также лишен ценности. Из-за схожести глубинных механизмов нацистская Германия и СССР постоянно копировали методы друг друга.
  3. Либерализм. Ставит в центр мироздания свободу личности (Liberty). Простой тест на либеральность включает четыре вопроса: должен ли человек иметь право выбирать правительство, религию, профессию и супруга?

Харари констатирует, что на протяжении большей части истории человечество отвергало эти свободы. В Средние века или при коммунизме партия или происхождение жестко определяли, выращивать ли вам капусту или собирать автомобили на заводе, а брак заключался по воле церкви или старейшин.

🎭 Войны воображения: как вымышленные страхи управляют реальностью 22:09

В конечном счете в XX веке либерализм одержал победу. Харари утверждает, что современные американские консерваторы, заявляющие о своей ненависти к либералам, сами являются либералами в глубоком историческом смысле. Споры об абортах или контроле над оружием — это лишь афтершоки сексуальной революции 1960-х годов. Философ напоминает, что еще в 1950-х годах университеты исключали студентов за добрачный секс, разводы порицались, а межрасовые браки были запрещены законом. Современные республиканцы в США лояльнее относятся к правам ЛГБТ, чем самые прогрессивные демократы 1960-х.

Трагедия современности, по мнению Харари, заключается в том, что масштаб разногласий раздут исключительно в воображении людей. Обыватели создают пугающие фантазии о планах противоположной стороны, оторванные от реальности. В XX веке лидерам вроде Ленина, Сталина или Гитлера не нужно было ничего приписывать — они открыто декларировали уничтожение частной собственности или ликвидацию целых народов. Сегодня же раскол питается химерами.

История знает примеры разрушительных войн, вспыхивавших без объективных причин. Харари напоминает о религиозных войнах в Европе XVI–XVII веков. В ходе Тридцатилетней войны погибла треть населения Германии. С современной точки зрения мотивы тех жестоких убийств (например, споры о том, давать ли мирянам во время причастия только святой хлеб или также вино) кажутся абсурдными, но для людей той эпохи они были важнее жизни. Современным примером «войны воображения» Харари называет вторжение России на Украину, спровоцированное фантазиями Владимира Путина об угрозе со стороны НАТО.

🦁 Биологические стимулы и «воля к власти» 29:38

Том Билью выдвигает собственную гипотезу: человеческая биология требует наличия внешнего врага. По мнению ведущего, людям необходимо, чтобы за ними «гнался лев». Столкнувшись с реальной смертельной опасностью, даже непримиримые соперники объединяются ради защиты своих семей. В отсутствие осязаемой угрозы люди начинают страдать от скуки, и их защитные импульсы направляются на мелкие, незначительные поводы. Билью связывает это с ницшеанской «волей к власти», которая может проявляться как в благородном стремлении к самосовершенствованию, так и в мелочной тирании смотрителя шлагбаума, упивающегося возможностью не пропустить человека без точной суммы за проезд.

Харари полностью разделяет мнение, что за нынешними культурными битвами стоит не идеология, а банальная борьба политиков за власть. По словам гостя, деструктивные лидеры намеренно берут нейтральные вопросы, искусственно превращают их в маркеры племенной идентичности и разжигают ярость масс, чтобы использовать эту энергию для восхождения наверх. Настоящая задача лидера — исцелять общину, однако сегодня мир переживает не возрождение национализма, а распад наций на враждующие трайбалистские группы.

Историк предлагает оригинальную трактовку патриотизма. Биологически человек запрограммирован заботиться лишь о крошечном круге знакомых. Национализм же совершает эволюционный прорыв, заставляя испытывать эмпатию к миллионам незнакомцев. Харари объясняет:

Современные же политики, именующие себя националистами, действуют как трайбалисты. Они целенаправленно ковыряют любые раны в теле нации, увеличивая раскол, чтобы возглавить одно «племя» и запугать его уничтожением со стороны другого.

🕊️ Хрупкий мир и украинский прецедент 36:40

Том Билью признается, что чувствует себя пессимистом, наблюдая за тем, как социальные сети ускоряют этот деструктивный тренд. По мнению ведущего, праведное негодование опьяняет человеческий мозг, даруя ложное чувство определенности посреди хаоса. Билью предполагает, что общество застряло в лавинообразном процессе, остановить который способно лишь масштабное страдание, поскольку только ужасы реальной войны обычно заставляют людей возвращаться за стол переговоров. В качестве идеала он приводит Нельсона Манделу и его «Срединный путь» — отказ как от подчинения угнетателям, так и от превращения в нового угнетателя ради исцеления общества.

Харари, напротив, выказывает больше сдержанного оптимизма, апеллируя к долгосрочным историческим трендам. На протяжении десятков тысяч лет человечество двигалось от изолированных банд охотников-собирателей к доверию среди миллионов незнакомцев и созданию глобальных торговых сетей. Вопреки биологическим ограничениям, люди научились масштабировать доверие. Более того, последние десятилетия, как утверждает историк, стали самым мирным периодом в истории планеты:

Этот относительный мир не был подарком природы, он стал результатом строительства международных институтов после 1945 года. Именно поэтому российская агрессия против Украины столь опасна: она подрывает главное табу международной системы — запрет на силовое изменение границ. Харари сравнивает ситуацию со школьным двором: если хулиган безнаказанно избивает слабого ребенка на глазах у всех, правила школы мгновенно меняются для каждого. Но если агрессора останавливают, норма справедливости укрепляется.

Украина, по мнению Харари, продемонстрировала миру пример подлинного, здорового национализма. Несмотря на внутреннее этническое и языковое разнообразие, а также мощную российскую кампанию дезинформации, украинское общество сплотилось перед лицом врага. Владимир Путин рассчитывал на мгновенный коллапс страны, бегство руководства и капитуляцию армии, но просчитался. Владимир Зеленский — русскоязычный еврей — стал общенациональным лидером. Если бы украинцы поддались трайбализму, они бы отвергли его из-за происхождения, но здоровое национальное сознание возобладало.

🪠 «Глубинное государство» и страх перед биотехнологиями 47:55

Том Билью замечает, что в США антигосударственные настроения сегодня популярны как среди ультралевых, так и среди ультраправых, которые ополчились на ФБР, почтовую службу и верят в заговоры «глубинного государства» (Deep State). Юваль Ной Харари иронично отвечает, что в реальности представляет собой «глубинное государство»:

«Глубинное государство — это канализация. Кто-то построил эту сложнейшую систему под нашими домами и улицами. Если бы её не было, мы бы давно умирали от холеры. Кто-то должен ежедневно заботиться о том, чтобы отделять питьевую воду от нечистот. И этот "кто-то" — государственные служащие. Это и есть глубинное государство».

Трагедия, по мнению Харари, заключается в том, что люди принимают величайшие достижения цивилизации как должное, отказываясь вкладываться в ремонт «общего дома». Человечество взобралось на высокую гору, оставив позади голод и повальные эпидемии, но сейчас стоит на самом краю пропасти и рискует сорваться вниз всего за несколько лет. Главными экзистенциальными угрозами современности гость называет не только ядерное оружие и климатические изменения, но и новые технологии — генетическую инженерию и искусственный интеллект.

При этом Харари отмечает, что генетические технологии пугают его больше всего в долгосрочной перспективе, хотя они и развиваются медленнее ИИ. Человечество еще слишком плохо понимает устройство собственного тела и разума, чтобы начинать их радикальную перестройку. Если дать армиям и корпорациям инструменты редактирования ДНК, они начнут форсировать развитие тех качеств, которые выгодны им: дисциплины и интеллекта. Таким лидерам, как Владимир Путин, нужны умные и исполнительные солдаты, но им не нужны сострадание или духовная глубина. В результате селекции человечество рискует получить расу высокоинтеллектуальных, но абсолютно безжалостных существ.

Историк подчеркивает критическое отличие биотехнологий XXI века от тоталитарных практик прошлого. Диктаторы вроде Гитлера или Сталина могли промывать мозги целым поколениям с помощью пропаганды, но после их смерти общество неизбежно возвращалось к биологическому «исходному коду». Генетические же изменения, особенно на уровне зародышевой линии, необратимы и способны навсегда расколоть человечество на разные биологические виды.

🧬 Франкенштейн XXI века: необратимость генетического апгрейда 1:02:02

Харари выражает глубокую тревогу по поводу прецедента с китайским ученым, который отредактировал геном эмбрионов для защиты от ВИЧ, попутно, согласно ряду исследований, затронув зоны, отвечающие за интеллект. Стремление перекроить человеческую природу существовало всегда, и гость приводит шокирующий исторический пример биоинженерии древности — кастрацию. Китайские императоры 2000 лет назад столкнулись с проблемой: генералы и министры постоянно бунтовали ради захвата власти и основания собственных династий. Решением стала принудительная кастрация административного аппарата. Евнухи обладали интеллектом и дисциплиной, но не имели возможности продолжить род, а потому не представляли династической угрозы. В определенные периоды истории Китая, Византии и Исламского халифата вся государственная машина управлялась евнухами.

Древние религиозные институты также пытались подавить базовые человеческие позывы — например, сексуальное влечение в христианском монашестве, но неизменно терпели неудачу, поскольку не могли проникнуть внутрь генома. Монахи нарушали обеты, а у римских пап рождались дети. Однако современные технологии дают фундаменталистам реальный шанс добиться своего. Харари призывает разработчиков технологий проводить мысленный эксперимент:

«Люди, создающие технологии, всегда думают о благих целях: излечении болезней, улучшении жизни. Но вам нужно остановиться и подумать о политике или религиозном движении, которое вы больше всего ненавидите. Представьте, что эти технологии попали в их руки. Что они сделают с ними? Это не значит, что нужно остановить прогресс, но мы обязаны быть предельно осторожными».

👁️ Алгоритмический диктат и потеря приватности 1:06:17

Второй фундаментальной угрозой Харари считает искусственный интеллект. ИИ принципиально отличается от любого изобретения прошлого: это первая технология, способная отбирать у человека власть. Даже ядерная бомба не принимала самостоятельных решений о бомбардировке Хиросимы — за ней всегда стоял приказ президента Трумэна и действия американских военных. ИИ же автономен. Мы уже видим, как алгоритмы решают, выдавать ли человеку кредит в банке или принимать ли его на работу.

ИИ способен полностью ликвидировать приватность. Историк просит представить тоталитарный режим (например, в Северной Корее), который обяжет граждан носить биометрические браслеты, считывающие эмоциональные реакции. Если при взгляде на портрет Ким Чен Ына датчики зафиксируют гнев или раздражение, человека автоматически отправят в лагерь.

Главным препятствием для обуздания ИИ Харари называет «трагедию общин» на международной арене. Если одна страна (например, США) законодательно запретит разработку автономных боевых систем, а её геополитические соперники (Китай или Россия) продолжат исследования, первому государству придется нарушить собственный запрет, чтобы не остаться беззащитным. Единственный путь — жесткие международные соглашения, перспективы которых в условиях растущей глобальной напряженности выглядят туманно.

Тем не менее на национальном уровне защита частной жизни возможна. Харари предлагает внедрить два жестких правила регулирования данных:

В противном случае, по мнению Харари, мир столкнется с феноменом «дата-колониализма». Если через 20 лет условная внешняя сила получит полные биометрические и медицинские досье на каждого судью, политика, журналиста и военного в вашей стране, этому государству больше не понадобятся солдаты для оккупации. Контроль над элитами будет осуществляться дистанционно с помощью шантажа.

🌐 Метаверс против тела: вечный теологический спор 1:12:04

Рассматривая концепцию метаверсов, Юваль Ной Харари указывает, что эта технологическая идея уходит корнями в древние теологические дебаты о сущности человека. В раннем христианстве существовало два непримиримых лагеря. Первый, унаследованный из древнееврейской традиции, утверждал, что человек — это прежде всего его физическое тело. В Книге Бытия Бог лепит Адама из глины, а в Новом Завете Иисус воскресает во плоти. Царство Божье мыслилось как вполне земное, биологическое пространство.

Второй лагерь, сформировавшийся под влиянием греческой философии, объявил тело «грязной, тленной тюрьмой», в которой томится чистая бессмертная душа. Харари считает, что метаверс — это современная попытка реализовать второй сценарий: полностью перенести ментальное существование в нематериальную цифровую сферу, бросив биологическую оболочку.

Том Билью, напротив, призывает не забывать о биологическом заземлении. Ведущий отмечает, что человеческие мысли и эмоции напрямую зависят от микробиома кишечника. Попытка полностью уйти в виртуальные миры обернется ментальной катастрофой, поскольку эволюционно мы обязаны контактировать с физической реальностью, любить и строить связи вживую. Виртуальное пространство может быть интересным местом для «экскурсий», но жить в нем невозможно.

🧭 Моральный компас без бога: биологический манифест 1:16:55

В завершение дискуссии Билью задается вопросом: как человечество сможет объединиться ради решения глобальных технологических вызовов без общего религиозного фундамента, заполняющего «божественную пустоту» в сознании?. Харари категорически не согласен с существованием такой пустоты и напоминает, что человечество прекрасно обходилось без концепции бога на протяжении многих периодов своей истории.

По мнению историка, главным объединяющим нарративом XXI века должен стать биологический манифест. Все люди на планете принадлежат к виду Homo Sapiens; все одинаково боятся смерти, не хотят болеть, испытывают боль и стремятся к любви. Харари опровергает популярный тезис о том, что без бога люди погрязнут в насилии и грабежах. Религиозные догмы никогда не останавливали жестокость: испанские конквистадоры искренне верили в бога, что не помешало им уничтожать коренное население Америки.

Том Билью апеллирует к книге «Империя летней луны» об индейском племени команчей, чья невероятная жестокость и уникальные навыки конного боя позволяли им успешно противостоять колонизаторам. По мнению ведущего, жесткие системы верований исторически делали племена непобедимыми. Харари парирует: в эпоху ядерного оружия и искусственного интеллекта подобная воинственная логика ведет исключительно к полному уничтожению человечества.

Бог, по утверждению философа, разъединяет, а не сплачивает, поскольку у каждого сообщества он свой. В Израиле обе конфликтующие стороны апеллируют к божественной воле, заявляя свои права на Иерусалим. Этот конфликт Харари называет трагически бессмысленным с биологической точки зрения: на территории между Средиземным морем и рекой Иордан вполне достаточно земли и продовольствия, чтобы прокормить всех. Люди воюют не за ресурсы, а за мифы в своих головах. Философ резюмирует:

«С биологическими очками обычного примата Иерусалим выглядит как любое другое место на Земле: деревья, камни, здания. Точно так же, как Лос-Анджелес. Но когда вы надеваете религиозные очки, вы начинаете видеть ангелов, божественность и священные камни. Священное место — это просто география плюс выдуманная история про неё. Большая часть дистанции между нами создана фантазиями, которые генерирует разум. Спасение человечества в XXI веке — в том, чтобы сделать шаг назад от иллюзий ума и прочно заземлить себя в собственном теле».

💬 Цитаты

«С психологической точки зрения гораздо хуже чувствовать себя ненужным, чем эксплуатируемым»

Юваль Ной Харари 0:12

«Глубинное государство — это канализация. Кто-то построил эту сложнейшую систему под нашими домами и улицами. Если бы её не было, мы бы давно умирали от холеры.»

Юваль Ной Харари 48:58

«Священное место — это просто география плюс выдуманная история про неё.»

Юваль Ной Харари 1:25:19
👥 Спикеры
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
Трайбализм
Форма групповой обособленности, характеризующаяся враждебным отношением к чужакам и безусловной верностью своему племени или микрогруппе.
Редактирование зародышевой линии
Изменение ДНК на уровне половых клеток или эмбрионов, результаты которого передаются по наследству всем последующим поколениям.
Дата-колониализм
Практика тотального сбора личных и биометрических данных граждан другой страны с целью дистанционного контроля над её элитами и обществом.
📊 Цифры
⚖️ Другая сторона
История и культура Юваль Ной Харари Том Билью Impact Theory Искусственный интеллект