Будущее интернета: как мы утратили контроль и можем ли его вернуть 1:01
Цифровая эпоха, начавшаяся с утопических надежд на всеобщую доступность знаний, сегодня обернулась системой массовой поведенческой модификации, где пользователи стали пассивными объектами влияния. В дискуссии, организованной World Science Festival, эксперты в области технологий и права обсудили, как бизнес-модели Кремниевой долины, основанные на алгоритмическом сборе данных и манипуляции вниманием, меняют само устройство человеческого общества и политических процессов.
🎭 Эволюция от оптимизма к алгоритмической манипуляции 1:01
На заре интернета царил дух эгалитарного оптимизма: технологии воспринимались как инструменты, разрушающие барьеры между людьми и предоставляющие свободный доступ к знаниям. Однако, по мнению Джарона Ланье, одного из пионеров виртуальной реальности, всё изменилось, когда основной целью стала монетизация через рекламу.
- Массовая модификация поведения: Ланье утверждает, что современный интернет превратил нас в «павловских собак», носящих с собой устройства для постоянного наблюдения. В отличие от редких случаев манипуляции в прошлом (например, психологические эксперименты в университетах), сегодня это происходит глобально и непрерывно.
- Эффект «снежинки»: По словам Ланье, алгоритмическое привыкание к социальным сетям меняет личность пользователей, делая их более эгоистичными, раздражительными и зависимыми от внимания.
- Механизм алгоритмов: Алгоритмы не имеют политических предпочтений, но в процессе поиска путей для максимизации вовлеченности они обнаруживают, что негативные эмоции и радикальный контент удерживают внимание лучше, чем позитивные.
💰 Парадокс бизнес-модели «защитного рэкета» 10:30
Бизнес-модель крупнейших платформ, таких как Facebook и Google, построена на агрессивном сборе данных. Джарон Ланье описывает их взаимодействие с рекламодателями как своего рода «мафиозный протекционизм»: компании убеждают бизнес, что без их услуг те «перестанут существовать» на рынке.
Спикеры сошлись во мнении, что текущая модель, при которой третья сторона всегда хочет влиять на контакты пользователей, является патологией. Ланье предлагает вернуться к идее оплаты услуг пользователями — превратить соцсети в некий аналог Netflix и Etsy, где люди платят за качественный контент, а создатели получают деньги за свое мастерство напрямую, не завися от рекламодателей.
🤖 ИИ и алгоритмическая угроза: скрытые веса и власть 24:46
Дискуссия затронула и технологическую сторону проблемы. Тим Хван разделил маркетинг ИИ и реальную научную дисциплину — машинное обучение. По его словам, это алгоритмы, которые обучаются на паттернах данных, но проблема в том, что эти паттерны часто отражают субъективный «мировоззренческий багаж» узкой группы разработчиков из Кремниевой долины.
Мередит Уиттакер подчеркнула, что технологии ИИ внедряются в критически важные сферы жизни без должной прозрачности:
- Прогнозная преступность: Использование данных с полицейских боди-камер для анализа «преступных наклонностей» Уиттакер называет формой современной физиогномики, которая несет в себе огромные риски ложных обвинений.
- Мониторинг труда: Автоматизированные системы мониторинга на рабочих местах внедряются повсеместно, оценивая «ценность» сотрудника на основе данных, которые могут содержать исторические предубеждения и неравенство.
🛑 Кризис доверия и «инженерная самоуспокоенность» 38:05
Феномен «фейковых новостей» и манипуляций в социальных сетях стал предметом жесткой критики со стороны Бретта Фришманна. Он отвергает аргумент о том, что пользователи «глупы» или «ленивы», указывая, что дизайн интерфейсов сам по себе препятствует размышлениям и поощряет импульсивные клики.
Бретт Фришманн ввел понятие «инженерной самоуспокоенности» (engineered complacency): люди привыкают к тому, что сопротивление алгоритмам или чтение условий использования бессмысленны, что создает у них ощущение неизбежности контроля.
🛠 Пути решения: от надзора до смены парадигмы 50:54
Эксперты обсудили, как сделать технологии более этичными, но пришли к выводу, что одного «саморегулирования» платформ недостаточно.
- Внешняя подотчетность: Авив Овадья настаивает на создании независимых структур, которые могли бы проверять работу платформ и оценивать их воздействие на социальную поляризацию, не доверяя полностью внутренним отчетам компаний.
- Смена бизнес-логики: Мередит Уиттакер призывает уйти от попыток «подправить края» существующей системы и задаться фундаментальным вопросом: какое общество мы хотим построить и нужны ли нам в нем текущие монополии?
- Сохранение «права на офлайн»: Бретт Фришманн подчеркнул, что ключевой задачей XXI века станет сохранение пространства, где человек свободен от постоянного наблюдения и алгоритмического скрипта, что необходимо для личного развития и экспериментов.
