Дискриминационные системы: критический взгляд на отчет AI Now Institute ⚠️ 0:00
В докладе «Discriminating Systems: Gender, Race, and Power in AI», подготовленном Сарой Майерс Уэст, Мередит Уитакер и Кейт Кроуфорд из AI Now Institute, анализируется взаимосвязь между отсутствием разнообразия в кадровом составе компаний и предвзятостью алгоритмов искусственного интеллекта. Исследователи утверждают, что эти явления представляют собой «две стороны одной медали» и требуют комплексного решения. Однако, по мнению аналитика Янника Килчера, авторы доклада не смогли доказать существование прямой причинно-следственной связи между этими факторами, используя предвзятую логику для обоснования заранее заданных выводов.
⚖️ Гипотеза о «замкнутом круге» предвзятости 4:23
Авторы доклада выдвигают тезис о существовании петли обратной связи:
- Дисбаланс в кадрах: Преобладание в сфере ИИ белых мужчин приводит к тому, что они создают системы, которые наследуют их предрассудки.
- Предвзятость систем: Алгоритмы, например, системы распознавания лиц или инструменты найма, демонстрируют дискриминацию в отношении меньшинств, что, в свою очередь, закрепляет исключение этих групп из индустрии.
- Необходимость перемен: Исследователи настаивают, что для устранения технической предвзятости ИИ необходимо принудительно увеличивать разнообразие в командах разработчиков.
Килчер подвергает этот аргумент жесткой критике, указывая, что доклад лишь демонстрирует параллели, но не доказывает причинность. По его мнению, техническая предвзятость чаще всего проистекает из «грязных» или несбалансированных наборов данных, а не из того, какой пол или цвет кожи имеет инженер. Он подчеркивает: если проблема данных решена, алгоритм может быть объективным независимо от состава команды.
🛠 Рекомендации и «код» дискриминации 9:07
Доклад предлагает ряд рекомендаций для компаний, среди которых есть как вполне конструктивные, так и спорные инициативы:
- Трансперентность: Килчер полностью поддерживает требования публиковать отчеты о случаях домогательств и дискриминации, а также прозрачно описывать процессы найма и продвижения.
- Исполнительные бонусы: Рекомендация №7 предлагает привязать вознаграждение руководителей к найму и удержанию представителей «недостаточно представленных групп».
Килчер называет это «кодированным языком» для оправдания дискриминационного найма на основе расы и пола. Он задается вопросом: как такая практика может считаться этичной, если она по своей сути является сексистской и расистской? С его точки зрения, попытка «решить проблему» через дискриминацию создает новую несправедливость и противоречит принципу меритократии.
🧠 «Когнитивное разнообразие» против идеологического фильтра
Одним из наиболее острых моментов дискуссии стала критика идеи «когнитивного разнообразия». Авторы доклада критикуют тех, кто выступает против их методов, называя это «сопротивлением разнообразию». В противовес этому:
- Аргумент Килчера: Истинное разнообразие — это разный жизненный опыт, происхождение и образ мышления. Он утверждает, что два белых человека, выросших в принципиально разных условиях (например, в сельском Айдахо и в цирковой семье в Монголии), могут быть гораздо более «разнообразными», чем группа людей, которые выглядят по-разному, но мыслят идентично.
- Кейс Google: Когда компания включила консервативного эксперта Кей Джемс в состав своего консультативного совета для обеспечения «разнообразия мнений», это вызвало массовое возмущение сотрудников. Килчер считает, что авторы доклада активно поощряют нежелание слушать оппонентов, называя это «пузырем», где любая альтернативная точка зрения считается «недопустимой».
🧬 «Биологический детерминизм» как ярлык
Авторы доклада крайне негативно относятся к работам, упоминающим биологические различия между полами, называя их «биологическим детерминизмом». Они полагают, что любые ссылки на такие факторы при объяснении гендерного дисбаланса в ИИ являются «флажной ошибкой».
Килчер отмечает: авторы доклада используют этот термин для дискредитации любой дискуссии о том, что люди могут иметь разные интересы или склонности в силу биологии. Он подчеркивает, что большинство серьезных участников «контр-движения» не утверждают, что женщины «менее способны» к программированию; они лишь говорят о том, что нужно учитывать разную мотивацию и создавать условия, которые будут привлекательны для всех. По мнению Килчера, неспособность авторов доклада отличить научную дискуссию от ненависти полностью подрывает их авторитет как объективных исследователей.
