# Марк Цукерберг против Юваля Харари: алгоритмы, стены и взлом человечества

Источник: https://www.youtube.com/watch?v=Boj9eD0Wug8
Канал: Yuval Noah Harari 
Опубликовано: 27.04.2019

---

Марк Цукерберг и Юваль Ной Харари провели 90-минутную дискуссию о влиянии технологий на структуру общества. Встреча прошла в рамках серии публичных обсуждений будущего интернета, инициированных главой Facebook в апреле 2019 года.

## 🌐 Глобальная связность и новые стены
[[JUMP:01:30]]

История человечества демонстрирует процесс постепенного объединения разрозненных миров в единую экономическую и культурную систему [2:25]. Юваль Ной Харари подчеркивает: связность не гарантирует гармонии. Люди чаще всего конфликтуют именно с теми, кто находится рядом — членами семьи или соседями [2:37].

Парадокс современности заключается в одновременном развитии технологий связи и стремлении стран строить физические стены [3:05]. Историк называет это возвращением к технологиям каменного века на фоне расцвета социальных сетей и виртуальной реальности [3:36].

Марк Цукерберг видит в этом процессе не столько фрагментацию, сколько персонализацию. В прошлом люди были жестко привязаны к физическому местоположению [5:14]. Глава Facebook приводит пример из своего детства: в городе с населением 10 тысяч человек он играл в бейсбольной лиге (Little League), хотя его настоящей страстью было программирование [5:40]. В его окружении просто не было сверстников с похожими интересами.

Интернет позволил людям находить единомышленников в нишевых субкультурах [6:07]. Однако этот процесс имеет побочные эффекты:

*   Ослабление локальных сообществ, которые раньше объединяли людей с разными взглядами.
*   Чувство отчужденности у тех, кто не нашел свою группу в цифровом пространстве [7:30].
*   Риск утраты социальных механизмов, заставляющих нас ладить с людьми, которые нам не нравятся [9:06].

## 🤖 Искусственный интеллект и угроза неравенства
[[JUMP:16:00]]

Юваль Ной Харари выделяет две главные опасности, связанные с развитием AI. Первая — колоссальный рост глобального неравенства [17:21]. Революция AI может сконцентрировать богатство в руках нескольких технологических центров, таких как Калифорния или Восточный Китай [18:42].

Это создаст пропасть между странами:

1. Лидеры гонки AI получат беспрецедентное преимущество в экономике и военной сфере.
2. Страны вроде Гондураса или Мексики могут столкнуться с полным банкротством из-за автоматизации труда [17:48].
3. Рабочие места для текстильщиков или водителей исчезнут, а новые вакансии для инженеров появятся только в развитых регионах.

Без создания глобальной системы безопасности мир рискует вернуться к модели колониализма XIX века [18:13]. Тогда несколько индустриальных держав эксплуатировали остальной мир в течение 150 лет.

Марк Цукерберг возражает, указывая на ценность открытых исследований. По его мнению, доступ к облачным вычислениям (Amazon Web Services) и публикация научных работ позволяют предпринимателю из любой страны запустить свой проект [38:22]. Фрагментация интернета и разные политики данных в каждой стране — вот что действительно может лишить шансов малый бизнес [39:00].

## 🛡️ Данные, суверенитет и модель авторитарного контроля
[[JUMP:34:00]]

Дискуссия затронула вопрос регулирования данных. Марк Цукерберг выступает за принятие глобальных стандартов конфиденциальности, похожих на европейский регламент GDPR [40:09]. Он видит в этом альтернативу «авторитарной модели», которую сейчас продвигают некоторые страны [40:49].

Эта модель предполагает:

*   Обязательное хранение данных граждан на локальных серверах внутри страны [41:06].
*   Доступ правительства и спецслужб к этой информации для слежки за диссидентами [41:20].
*   Использование данных для поддержки местных военно-промышленных компаний.

Юваль Ной Харари выступает в роли адвоката дьявола, задавая вопрос от лица других стран: почему Индия должна доверять свои данные США? [41:40]. Он отмечает, что риторика «Америка прежде всего» (America First) подрывает статус США как лидера свободного мира [43:51].

Марк Цукерберг подчеркивает: Facebook принципиально не строит дата-центры в странах со слабым верховенством закона [46:41]. Если правительство может получить доступ к данным, оно способно нанести физический вред людям, просто идентифицировав их [47:52].

## 📡 Холодная война и эффективность централизации
[[JUMP:54:00]]

Исторически демократии побеждали тоталитарные режимы благодаря децентрализованной обработке информации. В Советском Союзе все данные стекались в Москву, где принимались решения о производстве каждого продукта, например, редиса в колхозе [55:36]. Эта модель оказалась неэффективной в условиях технологий 1950-х годов [56:03].

Искусственный интеллект может изменить этот баланс:

*   Алгоритмы работают тем лучше, чем больше данных собрано в одном месте [56:33].
*   Централизованная обработка информации может стать эффективнее распределенной.
*   Тоталитарные режимы получают встроенное технологическое преимущество [54:35].

Юваль Ной Харари опасается, что это сделает репрессивные империи более жизнеспособными [1:02:39]. Цукерберг сохраняет оптимизм, считая, что демократический процесс — пусть и медленный — в конечном итоге лучше удовлетворяет потребности людей [1:01:03]. Он указывает на то, что технологии Facebook дают голос миллиардам людей, что само по себе является мощным инструментом децентрализации власти [1:00:11].

## 🧠 Взлом человеческого внимания и свобода воли
[[JUMP:01:04:30]]

Самая глубокая угроза, по мнению Харари, — это «взлом» (hacking) человеческого существа [1:08:06]. Если алгоритм знает человека лучше, чем он сам, он может предсказывать и манипулировать его выбором. Самыми уязвимыми становятся те, кто свято верит в свободу воли [1:06:55]. Такие люди принимают навязанные извне желания за свои собственные.

Инструменты, созданные в Кремниевой долине для продажи товаров, теперь используются для «продажи» политиков и идеологий [1:07:53]. Харари задается вопросом: как я могу доверять своему внутреннему голосу, если он может быть результатом работы алгоритма? [1:18:48].

Марк Цукерберг разделяет проблему на два уровня:

1.  **Прямое злоупотребление:** например, вмешательство России в выборы 2016 года через сети фейковых аккаунтов [1:08:20].
2.  **Внутренний дизайн систем:** как работают алгоритмы ранжирования.

Глава Facebook утверждает, что бизнес-интересы компании в долгосрочной перспективе совпадают с социальным благом. В подтверждение он приводит решение сократить время просмотра вирусных видео на 50 миллионов часов в день [1:11:48]. Это было сделано, чтобы освободить место для «значимых социальных взаимодействий» с друзьями, даже если в краткосрочном периоде это снизило прибыль компании [1:12:00].

## 🎭 Смерть драмы принятия решений
[[JUMP:01:25:00]]

Харари описывает концепцию «капитализма слежки» (surveillance capitalism) [1:26:44]. Алгоритмы начинают давать советы не только о фильмах, но и о том, где работать и за кого выходить замуж [1:27:13]. В итоге жизнь человека перестает быть «драмой принятия решений».

Для Харари это экзистенциальный вопрос:

*   Вся религия и искусство построены на моментах выбора (например, трагедии Шекспира) [1:28:35].
*   Если мы просто следуем рекомендациям идеального алгоритма, смысл человеческой жизни размывается [1:29:07].

Марк Цукерберг считает, что решение кроется в предоставлении выбора, а не в диктате одной точки зрения. Исследования Facebook показывают: если просто сказать человеку, что его мнение ошибочно, это лишь усилит его убеждения [1:31:10]. Вместо этого эффективнее показывать спектр похожих статей и мнений, позволяя пользователю самому сформировать позицию [1:31:23]. Большинство людей в таких условиях не выбирают крайности.