# Кэрри: «Аудиты — лучший способ контролировать ИИ-системы»

Источник: https://www.youtube.com/watch?v=CDMuUsSkvao
Канал: Stanford Online
Опубликовано: 22.04.2025

---

## Аудит алгоритмов: как вернуть контроль над «черным ящиком»
[[JUMP:02:56]]

В эпоху повсеместного использования искусственного интеллекта и алгоритмических рекомендаций вопросы прозрачности и справедливости систем становятся критическими для общества. Исследовательница Кэрри (фамилия не указана в видео) в рамках семинара Stanford Online представила анализ того, как методы аудита, вдохновленные социальными науками, помогают выявлять предвзятость алгоритмов и возвращать пользователям чувство автономии. Дискуссия охватывает опыт десятилетий — от ранних авиационных систем до современных социальных сетей — и предлагает междисциплинарный подход к оценке sociotechnical-систем.

### ✈️ От системы Sabre до алгоритмических аудитов
[[JUMP:00:36]]

История алгоритмических манипуляций началась задолго до эпохи Facebook. Система бронирования авиабилетов Sabre, созданная в 1960 году в результате сотрудничества American Airlines и IBM, продемонстрировала, как алгоритмы могут незаметно влиять на выбор пользователя. Исследование 1982 года показало, что агенты выбирали рейсы, предложенные Sabre, в 92% случаев, а манипуляция выдачей («screen science») позволяла выводить более дорогие рейсы American Airlines на первые позиции.

После вмешательства правительства США в 1984 году были введены жесткие требования к прозрачности алгоритмов сортировки, что стало одним из первых примеров регулирования «черных ящиков». В 2014 году, опираясь на этот исторический опыт и законы о гражданских правах, исследователи начали применять концепцию аудита к современным онлайн-платформам.

### 🏠 Аудиты жилья: борьба с цифровой дискриминацией
[[JUMP:03:38]]

Традиционные аудиты жилья, проводимые Министерством жилищного строительства и городского развития США (HUD), используют метод парного тестирования: семьи с одинаковыми параметрами, различающиеся лишь одним защищенным признаком (например, расой), посещают риелторов для выявления фактов дискриминации. При исследовании онлайн-платформ команда Кэрри применила аналогичный подход, создав тысячи «sock puppets» — уникальных цифровых профилей, имитирующих поведение реальных пользователей различных демографических групп.

Основные результаты аудитов жилья:

* Женщины чаще видели в лентах более дорогие дома, чем мужчины.
* Рекламодатели чаще показывали объявления о недвижимости пользователям, идентифицированным как белые.
* Пользователи из сообществ Black чаще видели рекламу «аренды с выкупом» (rent-to-own), которая часто считается хищнической.

Исследователи подчеркивают, что без таких аудитов общество оставалось бы в неведении относительно того, как платформы закрепляют исторические формы угнетения, маскируя их под технические результаты машинного обучения.

### 🧠 Психология контроля и «эффект плацебо»
[[JUMP:13:06]]

Исследования механизмов пользовательского контроля показали, что люди часто не знают, что их ленты новостей курируются алгоритмами (в одном из опросов 62% не осознавали этого). Когда пользователи сталкиваются с «непонятной» выдачей, они склонны винить себя, а не систему.

Важным открытием стало изучение «фольклорных теорий» пользователей о работе алгоритмов. Люди склонны придумывать стратегии взаимодействия (например, «нажимать лайк, чтобы видеть больше постов человека»), которые придают им чувство контроля, даже если они технически не работают. Исследование, проведенное Кристен Ваккаро, показало, что пользователи ощущали бóльшую удовлетворенность даже от использования *неработающих* настроек контроля, что наводит на мысли о наличии эффекта плацебо.

### ⚖️ Путь к ответственности и участие сообществ
[[JUMP:47:19]]

В завершение дискуссии было подчеркнуто, что аудит алгоритмов должен стать междисциплинарной практикой, включающей юристов, социологов и специалистов по данным. Исследователи активно работают с местными сообществами через «Центр справедливой инфраструктуры» (Center for Just Infrastructures) и «Клинику общественных данных» (Community Data Clinic), помогая гражданам оценивать влияние ИИ на их жизнь.

Основные выводы:

* Аудиты остаются лучшим способом привлечения ИИ-систем к ответственности.
* Необходимо объединять аудит с «полезным контролем», который включает прозрачность и возможность оспаривания решений (contestability).
* Местная организация (как в Сан-Хосе или Бостоне) позволяет добиваться создания реестров ИИ-инструментов и регулярного мониторинга даже при отсутствии национального регулирования.

Кэрри призывает не прекращать исследования, даже если они кажутся «скучными» или «обыденными», так как именно в таких инфраструктурных процессах скрываются риски для гражданских прав и свобод.