В новом выпуске подкаста Impact Theory предприниматель Том Билью и историк-медиевист, автор бестселлера «Sapiens» Юваль Ной Харари обсуждают экзистенциальные вызовы XXI века. Основная идея беседы заключается в том, что человечество переходит в эпоху, когда технологии ИИ и биоинженерии начинают не просто служить людям, но и подрывать основы нашей биологической идентичности, приватности и политического устройства.
🧬 Биоинженерия: от древних евнухов до генетического редактирования 0:00
Юваль Ной Харари проводит историческую параллель между современной генной инженерией и методами контроля в Древнем Китае. Около 2000 лет назад императоры решали проблему борьбы за власть с помощью биоинженерии того времени — кастрации . Евнухи-министры и генералы не могли основать свои династии, что делало их безопасными для правителя. В определенные периоды китайской истории почти вся имперская администрация состояла из евнухов. Аналогичные практики существовали в Византии и исламских халифатах .
По мнению Харари, сегодня мы стоим на пороге гораздо более радикальных вмешательств. В отличие от кастрации, которая затрагивала только одно поколение, современные технологии генетического редактирования позволяют изменять геном человека необратимо . Ученый выражает опасение, что если такие инструменты попадут в руки фундаменталистских режимов или идеологических движений, они попытаются «исправить» человечество в соответствии со своими догмами.
Основные риски новой биоинженерии, по словам Юваля Ноя Харари:
- Необратимость: изменения могут передаваться по наследству, создавая фактически новый вид.
- Идеологический отбор: армии и правительства могут редактировать гены для повышения дисциплины и интеллекта, жертвуя состраданием и духовностью .
- Утрата многообразия: стремление к «улучшению» может привести к исчезновению качеств, которые не считаются полезными для государства или корпораций.
🤖 Искусственный интеллект как угроза человеческой власти 3:45
Харари утверждает, что ИИ принципиально отличается от всех предыдущих изобретений человечества. Если атомная бомба сама не принимала решение о бомбардировке Хиросимы (это сделал Трумэн), то ИИ — это первая технология, способная принимать самостоятельные решения .
Влияние ИИ на жизнь уже проявляется в бытовых и социальных сферах:
- Алгоритмы решают, выдавать ли человеку кредит в банке .
- ИИ определяет, кто получит работу или будет зачислен в университет.
- Технология способна полностью ликвидировать человеческую приватность.
Харари вводит концепт «дата-колоний» . По его мнению, в будущем страна может перестать быть независимой, даже если на её территории нет иностранных солдат. Если вся информация о политиках, судьях и журналистах страны (от их болезней до сексуальных предпочтений) находится на серверах в Пекине или Сан-Франциско, этой страной можно управлять «дистанционно» через шантаж и манипуляцию .
Том Билью отмечает проблему «трагедии общин» : ни одна страна не захочет ограничивать развитие ИИ или автономного оружия в одиночку, боясь отстать от конкурентов. Оба собеседника сходятся во мнении, что единственный путь к регуляции таких технологий — международное сотрудничество, которое сейчас находится в глубоком кризисе из-за геополитической напряженности.
🧠 «Взламываемое животное»: конец свободы воли? 25:34
Самым важным знанием о XXI веке Харари считает то, что люди стали «взламываемыми животными» . Для «взлома» человека требуются два компонента: огромный объем биометрических данных (что происходит внутри вашего тела и мозга) и колоссальные вычислительные мощности .
Харари объясняет механику этого процесса:
- Слияние инфотеха и биотеха: когда алгоритмы понимают нас лучше, чем мы сами, они могут предсказывать наш выбор и манипулировать нашими желаниями .
- Манипуляция через эмоции: алгоритм может подбирать музыку или политические сообщения, основываясь на биохимическом состоянии человека в конкретный момент .
- Пример с ориентацией: Харари приводит личную историю о том, что осознал себя геем только в 21 год. Современный алгоритм, отслеживающий движение глаз на пляже или перед экраном, мог бы определить это, когда ему было 15 лет .
Том Билью видит в этом и положительную сторону: такие алгоритмы могут помочь людям быстрее находить свое призвание или предотвращать болезни. Харари соглашается, но предупреждает: битва между приватностью и здоровьем в XXI веке, скорее всего, закончится победой здоровья . Люди добровольно отдадут все данные в обмен на раннюю диагностику рака или других патологий.
🏛️ Национализм, трибализм и мифы о «глубинном государстве» 45:23
Харари предлагает оригинальное определение национализма: это не ненависть к иностранцам, а способность заботиться о миллионах незнакомых людей . Именно национализм заставляет платить налоги, чтобы построить больницу для человека на другом конце страны, которого вы никогда не встретите.
Однако современный мир переживает кризис национализма и возврат к трибализму (племенному строю). По мнению Харари:
- Лидеры-популисты: вместо того чтобы исцелять сообщество, они ищут «раны» и трещины в обществе, намеренно углубляя их ради получения власти .
- Кризис институтов: люди начинают воспринимать как врагов своих соседей, придерживающихся иных взглядов.
- Миф о «глубинном государстве»: Харари иронично замечает, что реальное «глубинное государство» — это канализационная система . Она работает под землей, отделяет питьевую воду от отходов и спасает нас от холеры, но люди воспринимают это как должное.
Обсуждая войну в Украине, Харари называет её примером торжества гражданского национализма. Путин рассчитывал, что Украина распадется из-за этнических и языковых различий, но произошло обратное: русскоязычный еврей Владимир Зеленский стал символом единства нации .
🎒 Образование как «палатка» и психологическая гибкость 1:22:14
В условиях, когда рынок труда будет меняться каждые 10 лет, традиционная модель образования («построение каменного дома с глубоким фундаментом») больше не работает. Харари предлагает концепцию образования как «палатки», которую можно быстро собрать и перенести на другое место .
Ключевые навыки будущего по версии Юваля Ноя Харари:
- Психологическая устойчивость: способность переживать потерю идентичности и профессии в 40, 50 и 60 лет .
- Умение «разучиваться»: Харари приводит пример с метавселенной — там могут действовать иные законы физики, и человеку придется забыть свой опыт восприятия гравитации и света, чтобы проектировать одежду для виртуальных аватаров .
- Эмоциональный интеллект: его сложнее автоматизировать, чем навыки кодинга. Харари скептически относится к совету «учись программировать», напоминая, что ИИ сам прекрасно пишет код, в то время как работа медсестры или психотерапевта требует сложной комбинации моторики и эмпатии .
🕊️ Либерализм как «конец истории»? 1:45:23
Анализируя идеологическую карту мира, Харари утверждает, что, несмотря на ожесточенные «культурные войны», большинство современных людей — либералы в широком смысле . Либерализм он определяет через четыре свободы: возможность выбирать правительство, религию, профессию и супруга .
По мнению Харари, современные споры (например, об абортах или правах трансгендеров) — это лишь «афтершоки» сексуальной революции 1960-х годов . Если сравнить текущую ситуацию с 1950-ми, когда студентов могли исключить за секс до брака, а межрасовые союзы были запрещены, прогресс очевиден.
Харари предостерегает от войн, основанных на «фантазиях» . Как в XVII веке протестанты и католики истребляли друг друга миллионами из-за теологических тонкостей, которые сегодня кажутся нам незначительными, так и сегодня западные общества могут уничтожить себя из-за воображаемых угроз, не видя реальных экзистенциальных вызовов в лице бесконтрольного ИИ и разрушения климата.
