🌐 Реальное влияние ИИ: почему экология и предвзятость важнее сценариев «конца света» 0:04
Исследователь искусственного интеллекта Саша Луччиони отмечает, что дискурс вокруг ИИ сегодня чрезмерно сосредоточен на гипотетических угрозах существованию человечества, в то время как реальные и осязаемые проблемы остаются без должного внимания. По мнению эксперта, вместо обсуждения футуристических сценариев «сингулярности», общество должно сфокусироваться на текущих последствиях внедрения ИИ, которые уже сегодня затрагивают экологию, интеллектуальную собственность и социальное равенство.
🌍 Экологический след: цена «умных» технологий 1:41
Искусственный интеллект не существует в виртуальном вакууме: его работа обеспечивается огромной физической инфраструктурой из пластика и металла, потребляющей колоссальные объемы энергии. Луччиони подчеркивает, что каждый запрос к нейросети сопряжен с реальным ущербом для планеты.
В рамках инициативы BigScience, объединившей тысячу исследователей для создания первой открытой языковой модели Bloom, были проведены измерения экологического воздействия. Исследование показало:
- Процесс обучения модели Bloom потребовал столько энергии, сколько потребляют 30 домохозяйств за год.
- Объем выбросов углекислого газа составил 25 тонн, что эквивалентно поездке на автомобиле вокруг планеты пять раз.
- Аналогичные модели, такие как GPT-3, по оценкам Луччиони, выбрасывают в 20 раз больше углерода.
По словам исследователя, технологические компании зачастую не раскрывают данные о потреблении ресурсов, хотя современные модели за последние пять лет увеличились в размере в 2000 раз. Использование более крупных моделей для простых задач, например, генерации шуток, приводит к выбросам углерода, которые в 14 раз превышают показатели более компактных аналогов. Для решения проблемы Луччиони участвовала в создании инструмента CodeCarbon, который позволяет оценивать энергопотребление и углеродный след непосредственно в процессе обучения нейросетей.
⚖️ Авторское право и проблема согласия 4:10
Другой острой проблемой является использование интеллектуальной собственности без ведома авторов. ИИ-модели «питаются» книгами и иллюстрациями, созданными людьми, что делает невозможным контроль художников над их работами.
Организация Spawning.ai создала инструмент «Have I Been Trained?», позволяющий авторам проверять, попали ли их изображения в гигантские датасеты, такие как LAION-5B. Подобные доказательства стали основой для коллективных исков против ИИ-компаний за нарушение авторских прав, в частности, в деле художницы Карлы Ортиз. Луччиони отмечает, что сейчас её работодатель, компания Hugging Face, внедряет механизмы, позволяющие художникам запрещать использование своих работ для обучения нейросетей («opt-out»), превращая процесс из «шведского стола» для ИИ в более регулируемую среду.
🔍 Борьба с предвзятостью и «черными ящиками» 5:58
ИИ-системы зачастую воспроизводят расовые и гендерные стереотипы, что превращается в серьезную угрозу при использовании в правоохранительных органах или при найме на работу.
- Исследователь Джой Буоламвини выяснила, что системы распознавания лиц работают значительно хуже для цветных женщин, чем для белых мужчин.
- Внедрение таких «черных ящиков» в работу полиции приводит к фатальным ошибкам, таким как неправомерное задержание Порши Вудрафф, которая на тот момент была на восьмом месяце беременности.
- Инструмент Stable Bias Explorer, созданный Луччиони, позволяет визуализировать предвзятость моделей на примере 150 профессий.
Анализ показал, что нейросети изображают юристов и генеральных директоров мужчинами почти в 100% случаев, что не соответствует реальной статистике Бюро трудовой статистики США. По мнению автора, создание таких инструментов доступа к «внутренней кухне» ИИ критически важно, так как позволяет даже людям без навыков программирования осознать проблемы алгоритмов и требовать изменений на законодательном уровне.
В заключение Луччиони отмечает, что ответила автору письма об «угрозе человечеству» прямо: сосредоточенность на гипотетических рисках будущего — это лишь отвлекающий маневр, мешающий решать насущные проблемы ИИ уже сегодня.
