# Саша Луччиони о рисках ИИ: «Будущее — это не только экзистенциальные угрозы»

Источник: https://www.youtube.com/watch?v=eXdVDhOGqoE
Канал: TED
Опубликовано: 06.11.2023

---

## Реальные угрозы искусственного интеллекта: почему важно обсуждать настоящее, а не будущее 🤖
[[JUMP:00:04]]

Исследователь ИИ Саша Луччиони (Sasha Luccioni) в своем выступлении на TED призывает сместить фокус дискуссий об искусственном интеллекте с гипотетических сценариев «конца света» на вполне реальные и измеримые проблемы, которые технология создает уже сегодня. Вместо рассуждений об экзистенциальных рисках, Луччиони настаивает на необходимости прозрачности, подотчетности и разработки инструментов для оценки воздействия ИИ на экологию, авторские права и социальное равенство.

### 🌍 Экологический след «облачных» технологий
[[JUMP:01:41]]

Несмотря на абстрактность понятия «облачные вычисления», модели ИИ физически потребляют колоссальные ресурсы. Каждый запрос пользователя к языковой модели имеет свою цену для планеты.

* **Масштаб затрат:** В рамках инициативы BigScience Саша Луччиони руководила исследованием модели Bloom. Оказалось, что только процесс обучения модели потребовал столько же энергии, сколько потребляют 30 домохозяйств за год, и привел к выбросу 25 тонн углекислого газа (CO2).
* **Сравнительный анализ:** Аналогичные по архитектуре модели, такие как GPT-3, по оценкам Луччиони, могут генерировать в 20 раз больше выбросов углекислого газа, чем Bloom.
* **Проблема масштабирования:** Текущий тренд «чем больше, тем лучше» привел к тому, что за последние пять лет размеры больших языковых моделей выросли в 2000 раз, пропорционально увеличивая экологический ущерб.
* **Эффективность:** Переход на более компактные и эффективные модели может снизить углеродный след в 14 раз при выполнении тех же задач, например, генерации простых шуток.

Для борьбы с этим Луччиони помогла создать инструмент CodeCarbon, который позволяет разработчикам в реальном времени отслеживать потребление энергии и выбросы углекислого газа при обучении ИИ.

### 🎨 Авторское право и проблема «шведского стола» из данных
[[JUMP:04:10]]

Одной из острых проблем является использование произведений художников и авторов для обучения нейросетей без их согласия.

* **Доказательная база:** Инструмент «Have I Been Trained?» от организации Spawning.ai позволяет авторам проверять, попали ли их работы в огромные наборы данных, такие как LAION-5B.
* **Юридические последствия:** Эти данные стали доказательством в коллективном иске художников (включая Карлу Ортис) против компаний-разработчиков ИИ за нарушение авторских прав.
* **Стереотипы в данных:** На примере своего собственного имени Саша Луччиони показала, как системы генерации изображений могут искажать реальность: вместо реальных фотографий спикера модель выдает изображения бикини-моделей, что подчеркивает проблему «токсичности» обучающих данных.
* **Решение:** Компания Hugging Face, где работает Луччиони, начала партнерство со Spawning.ai для внедрения механизмов opt-in/opt-out, чтобы человеческое творчество перестало быть «бесплатным шведским столом» для обучения моделей.

### ⚖️ Скрытые угрозы: предвзятость и социальная справедливость
[[JUMP:05:58]]

ИИ-системы часто кодируют существующие в обществе стереотипы — расизм и сексизм — и транслируют их дальше.

* **Распознавание лиц:** Доктор Джой Буоламвини (Dr. Joy Buolamwini) обнаружила, что популярные системы распознавания лиц работают значительно хуже для темнокожих женщин, чем для белых мужчин.
* **Опасность для правосудия:** Когда предвзятые модели внедряются в работу полиции, это приводит к ложным обвинениям и даже незаконным арестам. Луччиони привела в пример случай Порши Вудрафф, которую ошибочно обвинили в угоне автомобиля, опираясь на неверную работу ИИ-системы.
* **Исследование предвзятости:** Инструмент Stable Bias Explorer, созданный Луччиони, демонстрирует, что нейросети склонны представлять 150 профессий исключительно через призму «белых мужчин». Даже в таких сферах, как юриспруденция или управление компаниями (CEO), модели «видят» мужчин почти в 100% случаев, что противоречит статистике Бюро трудовой статистики США.

По мнению Саши Луччиони, создание прозрачных инструментов для оценки таких систем — единственный способ сделать будущее ИИ более безопасным и справедливым. Она подчеркивает, что развитие ИИ еще не является свершившимся процессом, и мы все еще можем коллективно определять путь его развития.