# Марк Акерман: «Как мои исследования помогли создать капитализм слежки» Источник: https://www.youtube.com/watch?v=v8vUVGXQhEQ Канал: Stanford Online Опубликовано: 21.05.2025 --- Марк Акерман, профессор Мичиганского университета и один из пионеров в области взаимодействия человека и компьютера (HCI), выступил на семинаре в Стэнфорде с необычным докладом — «Mea Culpa» (моя вина). В своей речи он подверг критическому разбору собственные многолетние исследования, признав, что благие намерения ученых-технологов часто приводят к непредсказуемым и разрушительным социальным последствиям: от расцвета дезинформации до формирования «капитализма слежки». ## 📉 Исповедь технооптимиста: как добрые намерения мостят дорогу в ад [[JUMP:00:09]] Марк Акерман начал свое выступление с метафоры «недооцененных проблем при запуске» [1:32]. Ссылаясь на случай с космической обсерваторией, где дефектные детекторы заставляли ученых видеть несуществующие галактические объекты, он предположил, что вся область компьютерно-опосредованной совместной работы (CSCW) страдает от подобных фундаментальных ошибок. По мнению Акермана, исследователи слишком долго жили в рамках «утопического воображаемого», веря, что технологии объединят мир [19:54]. Однако на практике выход идей из лабораторий в реальный мир привел к возникновению «злых проблем» (wicked problems) — сложных социальных вызовов, которые невозможно решить только кодом [6:00]. Спикер выделил два ключевых направления, где его работа (и работа его коллег) привела к негативным результатам: * **Распространение дезинформации:** технологии обмена знаниями стали почвой для теорий заговора. * **Капитализм слежки:** попытки создать протоколы приватности в итоге помогли индустрии избежать государственного регулирования. ## 👺 От обмена опытом к 8chan: темная сторона онлайн-сообществ [[JUMP:00:13]] В 1990-х годах доминировала идея Говарда Рейнгольда о том, что интернет поможет людям лучше узнать друг друга и жить в гармонии [6:27]. Акерман занимался системами «обмена экспертизой» — это казалось исключительно полезным. Он привел пример из исследования Вашингтонского университета: учительница начальных классов, проходящая химиотерапию, смогла найти поддержку и советы от других преподавателей в похожей ситуации — то, чего не мог дать ни один врач [7:23]. Однако эта же механика обмена информацией привела к катастрофическим последствиям: 1. **Кризис доверия:** по данным, приведенным спикером, около 60% американцев верят, что правительство скрывает правду о вакцинах, а 43% считают, что система здравоохранения проводит тайные эксперименты на пациентах [7:53]. 2. **Радикализация:** Акерман рассказал о своем исследовании форумов 4chan и 8chan в 2016–2017 годах [8:31]. Он назвал 4chan «выгребной ямой интернета», а 8chan — местом для тех, кто оказался слишком экстремальным даже для 4chan. 3. **Токсичный контент:** ученый признался, что чтение логов 8chan (например, разборов украденных писем Джона Подесты) вынуждало его «детоксицироваться» в течение трех недель, так как контент шел вразрез со всеми его ценностями [8:57]. Спикер подчеркнул, что ненависть в сети не нова — она уходит корнями в эпоху маккартизма, «красную угрозу» 1920-х и антисемитизм Генри Форда в 1930-х [9:55]. Но именно современные социальные вычисления сделали этот процесс повсеместным, обеспечив радикалам удобные инструменты для самоорганизации [11:19]. ## 🍪 Проект P3P: как попытка защитить приватность создала «печенье монстра» [[JUMP:13:21]] Вторая часть «исповеди» касалась проекта P3P (Platform for Privacy Preferences) в Консорциуме Всемирной паутины (W3C), где Акерман был редактором спецификаций в конце 90-х [13:34]. Замысел был благородным: * Создать автоматического агента, который вместо пользователя читал бы политики конфиденциальности сайтов [14:41]. * Если политика сайта совпадала с предпочтениями пользователя, агент давал «зеленый свет». * Это должно было избавить людей от необходимости вчитываться в юридические тексты на каждом ресурсе [15:11]. **Почему это провалилось?** По словам Акермана, Шошана Зубофф в своей книге называет P3P «началом капитализма слежки» [13:21]. Технологический мир использовал разработку P3P как аргумент против государственного регулирования: «Мы сами решим проблему технически, не мешайте прогрессу» [16:47]. В итоге реального регулирования не последовало, а технологии (включая печально известные cookie-файлы) стали инструментом тотального сбора данных [14:15]. Спикер признал наличие «социотехнического разрыва»: система требовала от обычного пользователя понимания восьмимерного пространства приватности в уме, что практически невозможно [15:38]. Когда Facebook в 2011 году начал внедрять персонализированную рекламу, выяснилось, что именно споры и дезинформация удерживают пользователей на сайте лучше всего, принося компании доход [18:39]. ## 🧠 Ловушка AI и «злые проблемы» современности [[JUMP:24:37]] Акерман выразил серьезную обеспокоенность текущим бумом ИИ. Он упомянул работу Майкла Бернштейна о создании «искусственных пользователей» на базе LLM для симуляции социальных взаимодействий [24:49]. Аргументы Акермана о рисках ИИ: * **Эмерджентные свойства:** мы не понимаем, на что способны модели, пока они не развернуты массово [25:41]. * **Непредсказуемость последствий:** невозможно предвидеть «эффекты второго порядка» на этапе дизайна, так как технология сама меняет контекст, в который она внедряется [26:59]. * **Динамичность мира:** даже если мы поймем систему сегодня, завтра она изменится комбинаторным образом [26:22]. Спикер сравнил текущую ситуацию с автомобилестроением до появления Ральфа Нейдера и его книги «Опасен на любой скорости» [27:24]. До этого машины делались без учета безопасности пассажиров при столкновении, и потребовались десятилетия борьбы, чтобы регулирование стало обязательным. ## 🛠 Что делать новому поколению исследователей? [[JUMP:28:03]] Акерман рассмотрел несколько сценариев будущего для ученых, некоторые из которых он назвал «депрессивными» (в стиле персонажа Debbie Downer из SNL) [2:49]: 1. **Ассимиляция:** просто жить в текущей системе или выбирать коммерчески неинтересные темы [28:16]. 2. **Техно-решения:** надеяться на математические определения «справедливости» (fairness). Акерман считает это маловероятным — такие решения быстро устаревают [29:27]. 3. **Саморегулирование индустрии:** по мнению спикера, оно никогда не работает, как показал пример со спамом [30:11]. 4. **Критический дизайн и аудит:** это наиболее перспективный путь. ### Конкретные предложения спикера: * **Алгоритмический аудит:** Акерман поддерживает идею Кристиана Сандвига о принудительном открытии данных и алгоритмов для независимых проверок [36:50]. Он привел в пример работу FAA (авиационного управления США) с компанией Boeing: госинспекторы имеют доступ к «святая святых» — секретным спецификациям планера, чтобы гарантировать безопасность полетов [37:20]. * **Подготовка законопроектов заранее:** ученые должны писать черновики регуляторных актов «в стол». Когда случится очередной кризис и политики потребуют действий, у науки уже должно быть готовое решение, иначе его напишут лоббисты [38:01]. * **Междисциплинарность:** технологам необходимо работать в тесной связке с юристами и политологами, чтобы понимать «социо-технико-политический мир» [51:33]. ## 🗣 Дискуссия: можем ли мы вообще предсказывать вред? [[JUMP:41:50]] В ходе обсуждения Майкл Бернштейн (ведущий) возразил Акерману, упомянув опыт Стэнфорда с «Обзором этики и общества» (Ethics and Society Review) [42:16]. В этом формате исследователи обязаны спекулировать на тему потенциального вреда их технологий до получения грантов. Бернштейн предположил, что если бы создатели Facebook изначально задались вопросом «что сделают с этим худшие люди в мире?», многих проблем удалось бы избежать [48:12]. Акерман ответил скептически. Он считает, что люди (особенно инженеры) склонны к «утопическому воображаемому» и просто отказываются верить в абсолютное зло, пока не столкнутся с ним лицом к лицу [51:47]. Спикер завершил выступление предупреждением: аргумент «регулирование задушит инновации» — это классическая ловушка [40:52]. По его словам, Трамп уже отменил указ об ИИ, используя именно эту риторику [40:37]. Акерман призвал молодых исследователей быть осторожными с «красивыми картинками будущего» и помнить, что их работа может быть использована самым неожиданным и неприятным образом.