Монарх и Ын: «Точность ИИ-модели не гарантирует спасение жизней»

DeepLearning.AI 17,5 тыс. 10 мин 4 мин 17.11.2023
Главное

Эндрю Ын, основатель DeepLearning.AI, и Роберт Монарх, эксперт по машинному обучению и ликвидации последствий чрезвычайных ситуаций, представляют новую специализацию «AI for Good». В рамках вводного занятия они обсуждают, как искусственный интеллект может стать ключом к решению глобальных проблем — от изменения климата до общественного здравоохранения — и почему высокая точность модели не всегда гарантирует успех в реальном мире.

👨‍🏫 Экспертиза на стыке технологий и гуманитарных миссий 0:57

Роберт Монарх, основной инструктор курса, обладает уникальным опытом, объединяющим академическую науку, работу в крупнейших технологических корпорациях и полевую деятельность в зонах конфликтов.

По словам Эндрю Ына, квалификация Монарха подтверждается следующими фактами:

До того как переехать в Кремниевую долину, Монарх работал в Организации Объединенных Наций (ООН) в Сьерра-Леоне и Либерии, занимаясь вопросами постконфликтного развития . Его работа включала установку систем солнечной энергии в школах и клиниках, а также поддержку лагерей беженцев .

🌍 Языковой барьер и цифровая революция 2:46

Работая «в полях» в начале 2000-х годов, Монарх заметил парадокс: несмотря на то, что большая часть мира получила доступ к мобильным телефонам, технологии ИИ оставались недоступными для большинства населения планеты .

Монарх выделяет следующие проблемы того периода:

  1. Даже привычные для западного пользователя инструменты, такие как поисковые системы и распознавание речи, не работали на большинстве языков мира .
  2. Спустя почти 20 лет ситуация во многих регионах не изменилась: поддержка ИИ для редких языков по-прежнему отсутствует .

Это наблюдение подтолкнуло его к изучению обработки естественного языка (NLP) в Стэнфорде, где он и познакомился с Эндрю Ыном . Монарх стремился найти точки соприкосновения между ИИ и оперативным реагированием на катастрофы, чтобы сделать технологии инклюзивными.

⚠️ Почему катастрофа — худшее время для инноваций 4:06

Оба участника дискуссии сошлись во мнении, что внедрение новых технологий требует осторожности, особенно когда на кону стоят человеческие жизни.

Монарх утверждает, что период сразу после катастрофы — это «худшее время для развертывания чего-то непроверенного» . Вместо этого он предлагает следующую стратегию:

📉 Ловушка точности: кейс из сферы здравоохранения 4:57

Одной из центральных тем обсуждения стал разрыв между академическими успехами и реальным использованием ИИ. Инженеры часто гордятся высокими показателями на тестовых наборах данных, но, по мнению Эндрю Ына, это лишь часть задачи .

Монарх привел пример из собственной практики, связанный с проектом в области охраны материнства:

Монарх подчеркивает: улучшение точности модели не означает автоматического улучшения пользовательского опыта в реальных задачах .

🛠️ Системный подход и доступность обучения 6:18

Специализация «AI for Good» позиционируется как одна из наименее технических в линейке DeepLearning.AI . По словам Эндрю Ына, для прохождения курса не требуются глубокие знания программирования.

Ключевые особенности учебного процесса:

Монарх предлагает систематический фреймворк для решения сложных задач: сначала определить проблему в реальном мире (желательно без упоминания ИИ), затем получить интуитивное понимание данных и только потом переходить к оценке того, может ли машинное обучение здесь помочь .

💡 Практики из первых уст 8:42

Помимо лекций, программа включает выступления приглашенных экспертов, которые используют ИИ в своей повседневной работе. В курсе примут участие специалисты, занимающиеся:

Эндрю Ын выразил надежду, что после завершения специализации слушатели не только научатся оценивать успешность ИИ-проектов, но и вдохновятся на создание собственных решений, которые помогут «сдвинуть с мертвой точки» важнейшие социальные проблемы современности .

💬 Цитаты

«Вы можете иметь отличную модель машинного обучения, но это не обязательно означает, что при повышении точности улучшится результат в реальном сценарии использования.»

Роберт Монарх 05:36

«Если вы можете определить проблему реального мира без упоминания машинного обучения — тем лучше.»

Роберт Монарх 08:15

«После катастрофы — худшее время для развертывания чего-то непроверенного.»

Роберт Монарх 04:06
👥 Спикеры
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
EDA (Exploratory Data Analysis)
Метод анализа данных, направленный на выявление их основных характеристик и закономерностей через визуализацию.
Human-in-the-loop
Модель взаимодействия, при которой человек участвует в процессе обучения или работы ИИ, корректируя его действия.
Test set (тестовый набор)
Часть данных, которая используется для итоговой проверки точности обученной нейросети.
📊 Цифры
🗓 Хронология
  1. начало 2000-х Роберт Монарх работает в ООН в Сьерра-Леоне и Либерии.
  2. середина 2000-х Поступление в Стэнфорд для изучения NLP и защиты PhD.
  3. 2020-е Запуск специализации AI for Good на DeepLearning.AI.
⚖️ Другая сторона
Искусственный интеллект Роберт Монарх Эндрю Ын DeepLearning.AI AI for Good Machine Learning