Будущее компьютерного зрения для незрячих: доступность, приватность и этика 0:53
Вебинар «Доступность и компьютерное зрение» в рамках #TWIMLfest собрал экспертов, которые не только профессионально занимаются технологиями, но и обладают собственным опытом жизни с нарушениями зрения. Участники дискуссии обсудили, как системы искусственного интеллекта (ИИ) меняют повседневную жизнь, с какими барьерами сталкиваются пользователи и почему вопросы приватности данных, этики и инклюзивности разработки сегодня стоят как никогда остро.
Модератором выступила Мередит Рэнгел Моррис (Microsoft Research), а участниками стали:
- Чэнси Флит — технологический педагог из Нью-Йоркской публичной библиотеки, координатор Dimensions Lab.
- Синтия Беннетт — постдокторант в Институте взаимодействия человека и компьютера (CMU), исследующая вопросы ИИ-справедливости и доступности технологий.
- Сина Бахрам — основатель Prime Access Consulting, эксперт по цифровой доступности.
- Венкатеш Бутлери — докторант Вашингтонского университета, работающий над доступностью инструментов разработки ПО для незрячих программистов.
🛠 Инструментарий: ИИ vs Человек 6:38
Эксперты активно сочетают полностью автоматизированные ИИ-решения и системы, где задействован человек («человек в контуре» — human-in-the-loop).
Автоматизированные решения
Участники часто полагаются на встроенные функции смартфонов и социальных сетей:
- Автоматические описания изображений в Facebook.
- Описания в пакете Microsoft Office, особенно в PowerPoint.
- Приложение Microsoft Seeing AI, помогающее читать текст, определять валюту и описывать сцены.
- Функции iOS 14, которые интегрированы непосредственно в программу экранного доступа VoiceOver.
Системы с участием человека
В ситуациях, требующих нюансов или субъективной интерпретации, эксперты используют человеческую помощь:
- Aira — сервис с профессиональными визуальными интерпретаторами.
- Be My Eyes — платформа, соединяющая пользователей с волонтерами по видеосвязи.
- BeSpecular — сервис, позволяющий отправлять фото с вопросами и получать несколько ответов для формирования собственного мнения.
- Protest Access — волонтерское сообщество в Twitter, обеспечивающее описание медиаконтента, связанного с протестами.
По мнению Чэнси Флит, важно помнить, что работа «человека в контуре» может быть эмоционально тяжелой: просмотр травмирующего контента требует особого отношения к модераторам.
🔒 Проблема приватности данных 16:43
Вопрос конфиденциальности данных при использовании ИИ является критическим, считает Чэнси Флит.
- Пользователи с нарушениями зрения часто настолько нуждаются в инструментах, что принимают условия использования сервисов, не читая их.
- Существует асимметричное отношение власти: если пользователь отказывается от сервиса из-за политики данных, он теряет функциональность, не имея возможности «договориться» с корпорацией.
- Флит подчеркивает: «Нет такой вещи, как отсутствие раскрытия данных; раскрытие происходит на континууме».
Чэнси Флит лично избегает использования облачных сервисов для анализа чувствительной информации (личная почта, медицинские данные), предпочитая локальную обработку на устройстве. Сина Бахрам также отметил, что корпорации могут улучшать ИИ ради целей бизнеса (например, поисковой выдачи), а не для реальной пользы людей с инвалидностью.
⚠️ Ошибки ИИ и ответственность 24:39
Ошибки в описании изображений не равнозначны, уверена Синтия Беннетт. Ошибка в распознавании обеда — это повод для шуток, но ошибка в определении гендера или внешности — это прямой удар по идентичности человека, особенно из маргинализированных групп.
- Венкатеш Бутлери указал на проблему распознавания технического контента: ИИ часто ошибается в описании кода, скриншотов с ошибками или командной строки, что критически важно в образовании и работе.
- В период пандемии COVID-19 неспособность ИИ корректно интерпретировать инфографику и данные стала барьером к получению жизненно важной информации.
- Чэнси Флит отметила проект исследователя Лиора Замансена «Image may contain», который показывает, насколько «стерильными» и лишенными смысла оказываются ИИ-описания исторических моментов.
Эксперты сошлись во мнении: необходимы новые способы коммуникации точности (или её отсутствия) ИИ, а также возможности для пользователя «допрашивать» систему для прояснения деталей.
🚀 Будущее и инклюзивность разработки 50:48
Для создания по-настоящему полезных инструментов эксперты призывают к радикальному увеличению участия людей с инвалидностью в процессе создания ИИ с самых ранних этапов.
- Венкатеш Бутлери подчеркивает: чтобы инструменты были доступными, сами «трубопроводы» разработки (ML-пайплайны) должны быть доступны — например, поиск альтернатив визуальным графикам библиотек типа Matplotlib.
- Сина Бахрам настаивает на необходимости «десяти-двадцати тысяч» специалистов с инвалидностью в сфере машинного обучения, чтобы решения не принимались «привилегированным меньшинством».
- Синтия Беннетт призывает не просто стремиться к «автоматизации всего», а критически оценивать, является ли ИИ подходящим решением, и не навязывать людям отказ от проверенных инструментов (как белая трость) ради «исправления» их инвалидности.
