Социальная дилемма: алгоритмы, бизнес-модели и будущее цифрового общества 0:03
В рамках серии встреч Talks at Google режиссер Джефф Орловски обсудил свой документальный фильм «Социальная дилемма» (The Social Dilemma). В беседе с Анишей Бхандари рассматриваются вопросы влияния социальных сетей на психику, политическую поляризацию и фундаментальные сдвиги в дизайне информационных систем, происходящие под давлением алгоритмического контроля.
🤖 Антропоморфный подход к алгоритмам 3:08
При создании фильма команда Орловски стремилась уйти от формата классических «говорящих голов», чтобы сделать тему более доступной для широкой аудитории. Основной идеей стало олицетворение алгоритмов.
Для визуализации процессов внутри социальных сетей авторы выделили три главные цели, определяющие поведение алгоритмов:
- Рост (Growth)
- Вовлеченность (Engagement)
- Реклама (Advertising)
По мнению Орловски, каждая из этих целей управляется отдельным алгоритмом, которые в совокупности формируют индивидуальную ленту пользователя. Режиссер подчеркивает, что бизнес-модель, построенная вокруг удержания внимания, неизбежно создает условия для возникновения «пузырей фильтров», где реальность каждого человека становится уникальной и субъективной.
🏝 Аналогия с Галапагосскими островами 19:32
Для описания того, что происходит с обществом, Орловски использует аналогию с Галапагосскими островами и теорией эволюции Чарльза Дарвина. В текущей цифровой экосистеме каждый пользователь оказывается на своем «острове» — в личном, алгоритмически настроенном пространстве.
- Изоляция: Чем больше пользователь взаимодействует с алгоритмами, тем быстрее происходит «эволюция» его предпочтений.
- Видообразование: В природе этот процесс приводит к появлению новых видов, которые перестают быть способными к скрещиванию. В информационном пространстве это означает, что пользователи с диаметрально противоположными взглядами (например, крайне левые и крайне правые) теряют возможность для конструктивного диалога из-за отсутствия общей базы фактов.
По словам режиссера, эта ситуация усугубляет политическую поляризацию, делая невозможным достижение общественного консенсуса.
📉 Бизнес-модель как системная угроза 7:10
Орловски проводит параллель между технологическим сектором и индустрией ископаемого топлива. 100 лет назад добыча нефти казалась технологическим прорывом, дающим человечеству невероятные возможности для транспорта и индустрии, но спустя десятилетия стали очевидны катастрофические последствия для планеты.
Основные аргументы Орловски относительно «Big Tech»:
- Отсутствие ответственности: Большинство технологических платформ не были спроектированы для поддержания гражданского дискурса и рациональных дискуссий.
- Частные «квадраты»: В отличие от общественных площадок (например, газет), где реклама видна всем, алгоритмические ленты создают персональные «рекламные щиты» для каждого, что делает невозможным общее обсуждение контента.
- Демонетизация ценностей: По мнению Орловски, мы совершили ошибку, приняв «время на сайте» как единственный показатель качества, тогда как это не соответствует интересам общества.
🛠 Пути решения и роль следующего поколения 28:18
Орловски считает, что первым шагом к исправлению ситуации должны стать образование и осознанность. Он призывает пользователей, обладающих достаточными ресурсами, проявлять личную ответственность — вплоть до полного отказа от использования определенных платформ.
- Новые платформы: Режиссер с оптимизмом смотрит на появление инструментов, которые не используют рекламные модели (например, Clubhouse или Patreon), ориентируясь на создание ценности для авторов и сообществ.
- Поколение Gen Z: По мнению гостя, молодые люди, выросшие внутри экосистемы соцсетей, лучше других осознают давление «постоянной вовлеченности» и могут стать архитекторами более здоровых технологий будущего.
- Человеческая курация: Орловски выражает надежду на возврат к экспертному отбору контента вместо машинного, подчеркивая, что интернет дает данные, но не мудрость, которая требует контекста и участия человека.
