Марк Цукерберг и Юваль Ной Харари провели 90-минутную дискуссию о влиянии технологий на структуру общества. Встреча прошла в рамках серии публичных обсуждений будущего интернета, инициированных главой Facebook в апреле 2019 года.
🌐 Глобальная связность и новые стены 1:30
История человечества демонстрирует процесс постепенного объединения разрозненных миров в единую экономическую и культурную систему . Юваль Ной Харари подчеркивает: связность не гарантирует гармонии. Люди чаще всего конфликтуют именно с теми, кто находится рядом — членами семьи или соседями .
Парадокс современности заключается в одновременном развитии технологий связи и стремлении стран строить физические стены . Историк называет это возвращением к технологиям каменного века на фоне расцвета социальных сетей и виртуальной реальности .
Марк Цукерберг видит в этом процессе не столько фрагментацию, сколько персонализацию. В прошлом люди были жестко привязаны к физическому местоположению . Глава Facebook приводит пример из своего детства: в городе с населением 10 тысяч человек он играл в бейсбольной лиге (Little League), хотя его настоящей страстью было программирование . В его окружении просто не было сверстников с похожими интересами.
Интернет позволил людям находить единомышленников в нишевых субкультурах . Однако этот процесс имеет побочные эффекты:
- Ослабление локальных сообществ, которые раньше объединяли людей с разными взглядами.
- Чувство отчужденности у тех, кто не нашел свою группу в цифровом пространстве .
- Риск утраты социальных механизмов, заставляющих нас ладить с людьми, которые нам не нравятся .
🤖 Искусственный интеллект и угроза неравенства 16:00
Юваль Ной Харари выделяет две главные опасности, связанные с развитием AI. Первая — колоссальный рост глобального неравенства . Революция AI может сконцентрировать богатство в руках нескольких технологических центров, таких как Калифорния или Восточный Китай .
Это создаст пропасть между странами:
- Лидеры гонки AI получат беспрецедентное преимущество в экономике и военной сфере.
- Страны вроде Гондураса или Мексики могут столкнуться с полным банкротством из-за автоматизации труда .
- Рабочие места для текстильщиков или водителей исчезнут, а новые вакансии для инженеров появятся только в развитых регионах.
Без создания глобальной системы безопасности мир рискует вернуться к модели колониализма XIX века . Тогда несколько индустриальных держав эксплуатировали остальной мир в течение 150 лет.
Марк Цукерберг возражает, указывая на ценность открытых исследований. По его мнению, доступ к облачным вычислениям (Amazon Web Services) и публикация научных работ позволяют предпринимателю из любой страны запустить свой проект . Фрагментация интернета и разные политики данных в каждой стране — вот что действительно может лишить шансов малый бизнес .
🛡️ Данные, суверенитет и модель авторитарного контроля 34:00
Дискуссия затронула вопрос регулирования данных. Марк Цукерберг выступает за принятие глобальных стандартов конфиденциальности, похожих на европейский регламент GDPR . Он видит в этом альтернативу «авторитарной модели», которую сейчас продвигают некоторые страны .
Эта модель предполагает:
- Обязательное хранение данных граждан на локальных серверах внутри страны .
- Доступ правительства и спецслужб к этой информации для слежки за диссидентами .
- Использование данных для поддержки местных военно-промышленных компаний.
Юваль Ной Харари выступает в роли адвоката дьявола, задавая вопрос от лица других стран: почему Индия должна доверять свои данные США? . Он отмечает, что риторика «Америка прежде всего» (America First) подрывает статус США как лидера свободного мира .
Марк Цукерберг подчеркивает: Facebook принципиально не строит дата-центры в странах со слабым верховенством закона . Если правительство может получить доступ к данным, оно способно нанести физический вред людям, просто идентифицировав их .
📡 Холодная война и эффективность централизации 54:00
Исторически демократии побеждали тоталитарные режимы благодаря децентрализованной обработке информации. В Советском Союзе все данные стекались в Москву, где принимались решения о производстве каждого продукта, например, редиса в колхозе . Эта модель оказалась неэффективной в условиях технологий 1950-х годов .
Искусственный интеллект может изменить этот баланс:
- Алгоритмы работают тем лучше, чем больше данных собрано в одном месте .
- Централизованная обработка информации может стать эффективнее распределенной.
- Тоталитарные режимы получают встроенное технологическое преимущество .
Юваль Ной Харари опасается, что это сделает репрессивные империи более жизнеспособными . Цукерберг сохраняет оптимизм, считая, что демократический процесс — пусть и медленный — в конечном итоге лучше удовлетворяет потребности людей . Он указывает на то, что технологии Facebook дают голос миллиардам людей, что само по себе является мощным инструментом децентрализации власти .
🧠 Взлом человеческого внимания и свобода воли 1:04:30
Самая глубокая угроза, по мнению Харари, — это «взлом» (hacking) человеческого существа . Если алгоритм знает человека лучше, чем он сам, он может предсказывать и манипулировать его выбором. Самыми уязвимыми становятся те, кто свято верит в свободу воли . Такие люди принимают навязанные извне желания за свои собственные.
Инструменты, созданные в Кремниевой долине для продажи товаров, теперь используются для «продажи» политиков и идеологий . Харари задается вопросом: как я могу доверять своему внутреннему голосу, если он может быть результатом работы алгоритма? .
Марк Цукерберг разделяет проблему на два уровня:
- Прямое злоупотребление: например, вмешательство России в выборы 2016 года через сети фейковых аккаунтов .
- Внутренний дизайн систем: как работают алгоритмы ранжирования.
Глава Facebook утверждает, что бизнес-интересы компании в долгосрочной перспективе совпадают с социальным благом. В подтверждение он приводит решение сократить время просмотра вирусных видео на 50 миллионов часов в день . Это было сделано, чтобы освободить место для «значимых социальных взаимодействий» с друзьями, даже если в краткосрочном периоде это снизило прибыль компании .
🎭 Смерть драмы принятия решений 1:25:00
Харари описывает концепцию «капитализма слежки» (surveillance capitalism) . Алгоритмы начинают давать советы не только о фильмах, но и о том, где работать и за кого выходить замуж . В итоге жизнь человека перестает быть «драмой принятия решений».
Для Харари это экзистенциальный вопрос:
- Вся религия и искусство построены на моментах выбора (например, трагедии Шекспира) .
- Если мы просто следуем рекомендациям идеального алгоритма, смысл человеческой жизни размывается .
Марк Цукерберг считает, что решение кроется в предоставлении выбора, а не в диктате одной точки зрения. Исследования Facebook показывают: если просто сказать человеку, что его мнение ошибочно, это лишь усилит его убеждения . Вместо этого эффективнее показывать спектр похожих статей и мнений, позволяя пользователю самому сформировать позицию . Большинство людей в таких условиях не выбирают крайности.
