Реальные угрозы искусственного интеллекта: почему важно обсуждать настоящее, а не будущее 🤖 0:04
Исследователь ИИ Саша Луччиони (Sasha Luccioni) в своем выступлении на TED призывает сместить фокус дискуссий об искусственном интеллекте с гипотетических сценариев «конца света» на вполне реальные и измеримые проблемы, которые технология создает уже сегодня. Вместо рассуждений об экзистенциальных рисках, Луччиони настаивает на необходимости прозрачности, подотчетности и разработки инструментов для оценки воздействия ИИ на экологию, авторские права и социальное равенство.
🌍 Экологический след «облачных» технологий 1:41
Несмотря на абстрактность понятия «облачные вычисления», модели ИИ физически потребляют колоссальные ресурсы. Каждый запрос пользователя к языковой модели имеет свою цену для планеты.
- Масштаб затрат: В рамках инициативы BigScience Саша Луччиони руководила исследованием модели Bloom. Оказалось, что только процесс обучения модели потребовал столько же энергии, сколько потребляют 30 домохозяйств за год, и привел к выбросу 25 тонн углекислого газа (CO2).
- Сравнительный анализ: Аналогичные по архитектуре модели, такие как GPT-3, по оценкам Луччиони, могут генерировать в 20 раз больше выбросов углекислого газа, чем Bloom.
- Проблема масштабирования: Текущий тренд «чем больше, тем лучше» привел к тому, что за последние пять лет размеры больших языковых моделей выросли в 2000 раз, пропорционально увеличивая экологический ущерб.
- Эффективность: Переход на более компактные и эффективные модели может снизить углеродный след в 14 раз при выполнении тех же задач, например, генерации простых шуток.
Для борьбы с этим Луччиони помогла создать инструмент CodeCarbon, который позволяет разработчикам в реальном времени отслеживать потребление энергии и выбросы углекислого газа при обучении ИИ.
🎨 Авторское право и проблема «шведского стола» из данных 4:10
Одной из острых проблем является использование произведений художников и авторов для обучения нейросетей без их согласия.
- Доказательная база: Инструмент «Have I Been Trained?» от организации Spawning.ai позволяет авторам проверять, попали ли их работы в огромные наборы данных, такие как LAION-5B.
- Юридические последствия: Эти данные стали доказательством в коллективном иске художников (включая Карлу Ортис) против компаний-разработчиков ИИ за нарушение авторских прав.
- Стереотипы в данных: На примере своего собственного имени Саша Луччиони показала, как системы генерации изображений могут искажать реальность: вместо реальных фотографий спикера модель выдает изображения бикини-моделей, что подчеркивает проблему «токсичности» обучающих данных.
- Решение: Компания Hugging Face, где работает Луччиони, начала партнерство со Spawning.ai для внедрения механизмов opt-in/opt-out, чтобы человеческое творчество перестало быть «бесплатным шведским столом» для обучения моделей.
⚖️ Скрытые угрозы: предвзятость и социальная справедливость 5:58
ИИ-системы часто кодируют существующие в обществе стереотипы — расизм и сексизм — и транслируют их дальше.
- Распознавание лиц: Доктор Джой Буоламвини (Dr. Joy Buolamwini) обнаружила, что популярные системы распознавания лиц работают значительно хуже для темнокожих женщин, чем для белых мужчин.
- Опасность для правосудия: Когда предвзятые модели внедряются в работу полиции, это приводит к ложным обвинениям и даже незаконным арестам. Луччиони привела в пример случай Порши Вудрафф, которую ошибочно обвинили в угоне автомобиля, опираясь на неверную работу ИИ-системы.
- Исследование предвзятости: Инструмент Stable Bias Explorer, созданный Луччиони, демонстрирует, что нейросети склонны представлять 150 профессий исключительно через призму «белых мужчин». Даже в таких сферах, как юриспруденция или управление компаниями (CEO), модели «видят» мужчин почти в 100% случаев, что противоречит статистике Бюро трудовой статистики США.
По мнению Саши Луччиони, создание прозрачных инструментов для оценки таких систем — единственный способ сделать будущее ИИ более безопасным и справедливым. Она подчеркивает, что развитие ИИ еще не является свершившимся процессом, и мы все еще можем коллективно определять путь его развития.
