В новом выпуске The TWIML AI Podcast ведущий Сэм Черрингтон беседует с Тимнит Гебру (Timnit Gebru), одной из самых влиятельных исследовательниц в области этики ИИ. После резонансного увольнения из Google в 2020 году Гебру основала собственный независимый институт DAIR (Distributed AI Research), призванный пересмотреть основы того, как проводятся научные исследования и кто должен быть их бенефициаром.
✊ От «резигнации» к независимости: история создания DAIR 0:28
Тимнит Гебру описывает свой уход из Google термином «резигнация» (от англ. resignated — принудительно уволенный под видом отставки) . По словам исследовательницы, конфликт начался с подготовки научной статьи об опасностях больших языковых моделей (LLM) — работы, которую руководство Google пыталось цензурировать.
События развивались на фоне личного стресса Гебру, связанного с пандемией и войной в Эфиопии, а также масштабной кампании травли в даркнете со стороны анонимных хейтеров . Столкнувшись с невозможностью продолжать критическую работу внутри корпорации, Гебру пришла к выводу о необходимости создания альтернативной структуры.
Так появился институт DAIR (Distributed AI Research). Его ключевые особенности:
- Распределенность: Тимнит Гебру подчеркивает, что институт не требует от сотрудников переезда в Кремниевую долину . Это позволяет сохранять таланты в их родных регионах (например, в Африке) и избегать «утечки мозгов».
- Междисциплинарность: В команду вошли не только инженеры, но и социологи (например, Алекс Ханна), что позволяет анализировать ИИ как социотехническую систему .
- Отказ от эксплуатации: Гебру утверждает, что традиционные исследования часто используют уязвимые группы населения (заключенных, низкооплачиваемых разметчиков данных) как «субъектов», не давая им взамен ни ресурсов, ни признания . DAIR стремится изменить эту парадигму.
🏗️ Проблема стимулов и «пирамида» в академии 18:24
Одной из главных тем беседы стали институциональные барьеры, мешающие этичному развитию ИИ. По мнению Тимнит Гебру, ни современная индустрия, ни академическая среда не создают условий для по-настоящему честной работы:
- Академия как «схема Понци»: Гебру сравнивает положение аспирантов с положением студентов-атлетов . За зарплату около $36 000 в год они полностью зависят от своих кураторов. Если исследование молодого ученого противоречит интересам грантодателя или карьере профессора, он рискует потерять визу и рекомендации .
- Иерархия знаний: В компьютерных науках существует негласная иерархия, где разработка алгоритмов считается «высшим» знанием, а сбор и очистка данных — «второсортной» работой . Это мешает уделять должное внимание качеству датасетов.
- Корпоративный «фиговый листок»: Этика в крупных техгигантах, как утверждает Гебру (цитируя своего коллегу Мэг Митчелл), часто служит лишь прикрытием для борьбы против государственного регулирования . Компании хвастаются сотнями публикаций по этике, одновременно подавляя критические исследования внутри своих стен .
🌍 Альтернативные модели и сопротивление «техноколониализму» 31:53
Тимнит Гебру противопоставляет DAIR таким организациям, как OpenAI. Она вспоминает анонс OpenAI в 2015 году как проект «белых мужчин-бро», обещающих спасти человечество, не привлекая к обсуждению само человечество .
Вместо этого основательница DAIR ориентируется на grassroots-движения и примеры «цифрового суверенитета»:
- Masakhane: Сеть исследователей, работающих над инструментами обработки естественного языка (NLP) для африканских языков .
- Кейс народа маори: В Новой Зеландии сообщество маори отказалось лицензировать свои языковые данные американской компании, назвав это «последним фронтиром колонизации» . Они настаивают на том, что данные должны приносить пользу в первую очередь самому сообществу-носителю.
- Mijente: Организация, борющаяся против использования технологий для слежки на границах .
🧪 Текущие проекты DAIR и борьба за финансирование 48:14
Несмотря на статус независимого института, вопрос денег остается острым. Первоначальное финансирование DAIR получила от фондов Макартуров, Форда, Рокфеллера и других . Однако Гебру выражает опасение: мир некоммерческих организаций зависим от «богатства, созданного неравенством», и часто деньги поступают от тех же людей, чье влияние она критикует (Эрик Шмидт, Марк Цукерберг) .
На данный момент в DAIR ведутся следующие исследования:
- Пространственный апартеид в ЮАР: Использование спутниковых снимков и компьютерного зрения для анализа того, как историческая сегментация жилых зон сохраняется и сегодня . Проектом руководит Раша Седра, выросшая в одном из таких «тауншипов».
- Data Voids (информационные пустоты): Исследование того, как отсутствие определенных сообществ на цифровых картах (например, фавел в Бразилии в Google Maps) делает их невидимыми для экономики и государства .
Завершая разговор, Тимнит Гебру подчеркивает, что её оптимизм — это «намеренная дисциплина». По её мнению, верить в возможность перемен необходимо, иначе альтернативой становится лишь депрессия перед лицом климатических и технологических угроз .
