В рамках научного семинара, организованного Стэнфордским университетом, профессор Чикагского университета Блэйз Ур представил глубокий анализ состояния приватности в эпоху больших данных и ИИ. В своем выступлении он продемонстрировал, как современные технологии превращают нашу частную жизнь в прозрачную витрину, и предложил способы вернуть пользователям контроль через визуализацию данных, юридические механизмы и даже провокационное искусство.
🏙️ Прозрачный город: когда архитектура становится слежкой 1:06
Блэйз Ур начинает разговор о приватности с необычного примера — фотокниги Майкла Вольфа «Прозрачный город» (The Transparent City) . Это сборник архитектурных фотографий Чикаго, который при детальном рассмотрении превращается в инструмент вуайеризма.
Ключевые моменты этой аналогии:
- Случайное открытие: Изначально фотограф снимал геометрию зданий, но при 200-кратном увеличении обнаружил человека, показывающего средний палец в окно .
- Границы частного: На снимках видны лица руководителей корпораций, семейные фото на столах и люди, смотрящие телевизор в неудобных позах .
- Сигнальные механизмы: Профессор отмечает, что закрытые жалюзи являются важным сигналом нежелания быть увиденным, однако современные телеобъективы (как и технологии сбора данных) игнорируют эти физические барьеры .
По мнению Ура, этот пример идеально иллюстрирует сложность определения нарушения приватности. Студенты профессора часто спорят: является ли это нарушением, если человек находится на высоком этаже, куда не может заглянуть прохожий? Ур подчеркивает, что в таком случае приватность становится «правом только для богатых», так как верхние этажи стоят дороже .
📜 Эволюция права: от «права быть оставленным в покое» до GDPR 5:49
История приватности в США, как напоминает Ур, восходит к 1890 году, когда Самуэль Уоррен и Луи Брандейс сформулировали концепцию «права быть оставленным в покое» . Их вдохновило появление мгновенной фотографии — «светских хроник» того времени.
В современной юридической практике выделяются несколько подходов:
- Приватность как контроль: Алан Вестин считал, что пользователь должен сам определять, какую информацию раскрывать .
- Контекстуальная целостность: Хелен Ниссенбаум утверждает, что важна не сама передача данных, а уместность их потока в конкретной социальной ситуации .
- Принципы честной работы с информацией (FIPPs): Разработанные FTC принципы включают уведомление, выбор, доступ к данным и обеспечение их безопасности .
Блэйз Ур считает модель «уведомления и выбора» (notice and choice) полностью провальной. В качестве доказательства он демонстрирует политику конфиденциальности Стэнфордского университета . Огромный объем юридического текста делает невозможным его реальное прочтение обычным пользователем. Профессор иронизирует, что даже он, будучи экспертом, не читает такие документы до конца .
Сравнивая законодательства, Ур отмечает превосходство европейского регламента GDPR над американским подходом . В США приватность защищается «секторальными» законами:
- COPPA: Защита данных детей до 13 лет (которые почти все нарушали, регистрируясь в соцсетях раньше срока) .
- FERPA: Защита образовательных данных .
- VPPA: Закон о защите записей о прокате видеокассет. По словам Ура, этот закон появился реактивно после того, как газеты пытались использовать историю проката номинанта в Верховный суд для поиска компромата .
🧪 Эксперимент с «жуткими» объявлениями 19:36
Чтобы понять, как люди реагируют на использование их данных, SUPERgroup провела дескриптивное исследование гиперперсонализированной рекламы . Участников разделили на две группы: одним показывали обычную рекламу еды, другим — таргетированную с использованием их реальных имен, имен партнеров и любимых блюд (например: «Тейлор, своди Райана на свидание в ресторан тайской еды в Мемфисе») .
Результаты исследования оказались парадоксальными:
- Люди были крайне напуганы (creeped out) уровнем осведомленности рекламного бота .
- Некоторые участники обвиняли сервис в слежке и присылали гневные сообщения на короткий номер, с которого приходили SMS .
- Главный вывод: Несмотря на испуг, поведение пользователей не изменилось. Они продолжали раскрывать личную информацию в последующих опросах с той же частотой, что и контрольная группа .
По мнению Блэйза Ура, это свидетельствует о том, что одного «ощущения жуткости» недостаточно для изменения цифровых привычек. Люди часто не понимают, откуда именно произошла утечка их данных .
🐦 Тайны Twitter: что скрывают архивы данных 28:42
Используя право на доступ к данным (Subject Access Rights), команда Ура исследовала, как на самом деле работает таргетинг в Twitter (ныне X). Они попросили сотни добровольцев скачать свои архивы и обнаружили в файле ad_impressions скрытый ключ matched_targeting_criteria .
Выяснилось, что Twitter позволяет рекламодателям использовать крайне спорные критерии, несмотря на официальные запреты:
- Списки исключений: Существуют «списки подавления ЛГБТ» (LGBT suppression list) и списки для исключения христианской аудитории .
- Чувствительные темы: Рекламодатели таргетировали объявления по ключевым словам «безработица», «гей», «афроамериканец» .
- Tailored Lists: Компании загружают хешированные списки телефонов или email-адресов своих клиентов (например, владельцев карт лояльности продуктовых магазинов), чтобы найти их в соцсети .
Профессор подчеркивает, что стандартные объяснения платформы «почему я вижу эту рекламу» скрывают 90% реальных причин таргетинга . Его группа создала прототипы более детальных объяснений, которые пользователи сочли гораздо более полезными .
🛠️ Проблема «JSON-ада»: почему доступ к данным не работает 35:06
Хотя законы (GDPR, CCPA) обязывают компании выдавать пользователю его данные, на практике это превращается в «цифровую свалку».
- Google выдает гигантские архивы (до 40 ГБ), а другие компании присылают сырые JSON-файлы .
- Обычные пользователи не могут даже открыть эти файлы (текстовые редакторы зависают) или понять смысл полей вроде «Unix timestamp» .
- Участники исследования Ура часто чувствовали себя подавленными и беспомощными перед лицом этих данных .
В ответ на это команда SUPERgroup разрабатывает экосистему Data Access Illuminator . Цель проекта — дать людям инструменты для «персонального анализа данных» без необходимости быть программистом. Система должна превращать сухие цифры в нарратив: что компания знает о моих привычках, когда я грущу, и какие воспоминания она хранит .
🎨 Искусство как провокация приватности 42:04
Блэйз Ур убежден, что сухих графиков недостаточно, чтобы заставить людей заботиться о приватности. Совместно со Школой Института искусств Чикаго (SAIC) он ведет курс, где художники и программисты создают арт-объекты .
Примеры студенческих работ:
- Субверсивные субтитры: Носимое устройство, которое транскрибирует речь пользователя, но намеренно меняет слова на те, что противоречат его ценностям .
- Растение-эмпат: Автоматическая система полива, которая дает воду цветку только в том случае, если слышит вокруг позитивные и добрые разговоры .
- Туманная теплица: Внутри здания установили теплицу, наполненную туманом. Люди внутри чувствовали себя скрытыми, но снаружи на стены проецировались их движения, отслеживаемые датчиками, не использующими видео (Lidar/IR) .
Эти провокации, по мнению гостя, заставляют людей на эмоциональном уровне прочувствовать хрупкость своих границ.
🤖 Приватность в эпоху LLM и паролей 52:36
В завершение семинара Ур коснулся темы больших языковых моделей (LLM). Он отметил, что взаимодействие с ChatGPT дает очевидную пользу, но риски остаются скрытыми.
- Галлюцинации: Профессор привел пример, как ChatGPT приписал его коллеге Педро участие в марафонах, хотя тот «не пробежал и квартала в своей жизни» .
- Утечки: Упоминались случаи, когда модели выдавали номера телефонов пользователей из обучающей выборки .
Также Блэйз Ур дал практический совет по безопасности: главная угроза сегодня — не слабые пароли, а их повторное использование . Исследование в Чикагском университете показало, что тысячи аккаунтов были уязвимы из-за того, что пользователи использовали те же пароли, что и на взломанных сайтах вроде LinkedIn или Chegg . Ур призвал переходить на беспарольную аутентификацию (passkeys) и использовать менеджеры паролей .
По словам Ура, на вопрос «может ли существовать приватность в мире данных?» можно ответить утвердительно, но только если дизайнеры систем перестанут собирать данные «просто потому что могут» и начнут помогать пользователям управлять своей цифровой идентичностью .
