# Монарх и Ын: «Точность ИИ-модели не гарантирует спасение жизней»

Источник: https://www.youtube.com/watch?v=H_8ZVRRtiIA
Канал: DeepLearning.AI
Опубликовано: 17.11.2023

---

Эндрю Ын, основатель DeepLearning.AI, и Роберт Монарх, эксперт по машинному обучению и ликвидации последствий чрезвычайных ситуаций, представляют новую специализацию «AI for Good». В рамках вводного занятия они обсуждают, как искусственный интеллект может стать ключом к решению глобальных проблем — от изменения климата до общественного здравоохранения — и почему высокая точность модели не всегда гарантирует успех в реальном мире.

## 👨‍🏫 Экспертиза на стыке технологий и гуманитарных миссий
[[JUMP:00:57]]

Роберт Монарх, основной инструктор курса, обладает уникальным опытом, объединяющим академическую науку, работу в крупнейших технологических корпорациях и полевую деятельность в зонах конфликтов.

По словам Эндрю Ына, квалификация Монарха подтверждается следующими фактами:

*   **Опыт в Big Tech:** Роберт строил продукты на базе ИИ в таких компаниях, как Google, Amazon, Microsoft и Apple [01:11].
*   **Академическая база:** Он обладает степенью доктора философии (PhD) Стэнфордского университета [01:25].
*   **Публикации:** Монарх является автором книги «Human-in-the-Loop Machine Learning» [01:25].
*   **Гуманитарная деятельность:** Более 20 лет он применяет ИИ для решения критических проблем в области управления катастрофами и общественного здравоохранения по всему миру [01:11].

До того как переехать в Кремниевую долину, Монарх работал в Организации Объединенных Наций (ООН) в Сьерра-Леоне и Либерии, занимаясь вопросами постконфликтного развития [02:18]. Его работа включала установку систем солнечной энергии в школах и клиниках, а также поддержку лагерей беженцев [02:32].

## 🌍 Языковой барьер и цифровая революция
[[JUMP:02:46]]

Работая «в полях» в начале 2000-х годов, Монарх заметил парадокс: несмотря на то, что большая часть мира получила доступ к мобильным телефонам, технологии ИИ оставались недоступными для большинства населения планеты [03:00].

Монарх выделяет следующие проблемы того периода:

1.  Даже привычные для западного пользователя инструменты, такие как поисковые системы и распознавание речи, не работали на большинстве языков мира [03:00].
2.  Спустя почти 20 лет ситуация во многих регионах не изменилась: поддержка ИИ для редких языков по-прежнему отсутствует [03:26].

Это наблюдение подтолкнуло его к изучению обработки естественного языка (NLP) в Стэнфорде, где он и познакомился с Эндрю Ыном [03:39]. Монарх стремился найти точки соприкосновения между ИИ и оперативным реагированием на катастрофы, чтобы сделать технологии инклюзивными.

## ⚠️ Почему катастрофа — худшее время для инноваций
[[JUMP:04:06]]

Оба участника дискуссии сошлись во мнении, что внедрение новых технологий требует осторожности, особенно когда на кону стоят человеческие жизни.

Монарх утверждает, что период сразу после катастрофы — это «худшее время для развертывания чего-то непроверенного» [04:06]. Вместо этого он предлагает следующую стратегию:

*   **Подготовка заранее:** Технологии для помощи людям при катастрофах должны создаваться в спокойное время [04:18].
*   **Партнерство с индустрией:** Необходимо сотрудничать с технологическими компаниями для «дорожных испытаний» инструментов [04:30].
*   **Понимание поведения системы:** Важно заранее знать, как ИИ поведет себя при развертывании среди наиболее уязвимых групп населения [04:30].

## 📉 Ловушка точности: кейс из сферы здравоохранения
[[JUMP:04:57]]

Одной из центральных тем обсуждения стал разрыв между академическими успехами и реальным использованием ИИ. Инженеры часто гордятся высокими показателями на тестовых наборах данных, но, по мнению Эндрю Ына, это лишь часть задачи [05:11].

Монарх привел пример из собственной практики, связанный с проектом в области охраны материнства:

*   Команда разработала систему для медицинских работников.
*   Офлайн-метрики точности модели постоянно росли [05:51].
*   **Результат:** Конечные пользователи (врачи) не почувствовали никакой пользы от внедрения системы [06:04].
*   **Итог:** Проект был закрыт (sunsetted), несмотря на «хорошие» цифры в отчетах [06:04].

Монарх подчеркивает: улучшение точности модели не означает автоматического улучшения пользовательского опыта в реальных задачах [05:51].

## 🛠️ Системный подход и доступность обучения
[[JUMP:06:18]]

Специализация «AI for Good» позиционируется как одна из наименее технических в линейке DeepLearning.AI [06:31]. По словам Эндрю Ына, для прохождения курса не требуются глубокие знания программирования.

Ключевые особенности учебного процесса:

*   **Готовый код:** Слушателям предоставляются готовые блокноты (notebooks), которые можно запускать без опыта написания кода [06:57].
*   **Переход от таблиц к Python:** Курс ориентирован на специалистов из гуманитарных сфер, которые привыкли работать с данными в электронных таблицах (Excel/Spreadsheets), но хотят использовать более сложные инструменты анализа [07:21].
*   **Методология EDA:** Особое внимание уделяется разведочному анализу данных (Exploratory Data Analysis) для визуализации и понимания проблемы до начала моделирования [07:48].

Монарх предлагает систематический фреймворк для решения сложных задач: сначала определить проблему в реальном мире (желательно без упоминания ИИ), затем получить интуитивное понимание данных и только потом переходить к оценке того, может ли машинное обучение здесь помочь [08:15].

## 💡 Практики из первых уст
[[JUMP:08:42]]

Помимо лекций, программа включает выступления приглашенных экспертов, которые используют ИИ в своей повседневной работе. В курсе примут участие специалисты, занимающиеся:

*   Мониторингом лесных пожаров [08:54].
*   Решением проблем общественного здравоохранения [08:54].

Эндрю Ын выразил надежду, что после завершения специализации слушатели не только научатся оценивать успешность ИИ-проектов, но и вдохновятся на создание собственных решений, которые помогут «сдвинуть с мертвой точки» важнейшие социальные проблемы современности [09:34].