# Сучи Сариа: «ИИ в медицине — это не черный ящик»

Источник: https://www.youtube.com/watch?v=bLC-MiyR1bU
Канал: The TWIML AI Podcast
Опубликовано: 16.07.2021

---

# Машинное обучение в здравоохранении: путь от первых алгоритмов до клинической практики

[[JUMP:0:01]]

Интеграция искусственного интеллекта в медицину прошла путь от академических разработок до внедрения в реальные больничные протоколы. Сучи Сариа, основательница и CEO компании Bayesian Health, профессор Университета Джонса Хопкинса, в беседе с подкастом The TWIML AI Podcast обсудила эволюцию машинного обучения (ML) в здравоохранении, преодоление барьеров внедрения и реальные показатели эффективности алгоритмов при борьбе с сепсисом.

## 📈 Эволюция подходов: от хайпа к реальности
[[JUMP:19:05]]

Развитие ИИ в медицине, по словам Сучи Сариа, можно разделить на три ключевых этапа:

1.  **Эра хайпа (hubris):** Ранний период, когда исследователи полагали, что возможности ML безграничны и способны решить любые задачи, часто недооценивая сложность медицинской отрасли.
2.  **Эра глубокого погружения:** Вторая волна специалистов подошла к вопросу методически, фокусируясь на интеграции предметных знаний, причинно-следственном мышлении, безопасности и проверяемости моделей.
3.  **Эра внедрения (фаза 3):** Текущий период, в котором разработки выходят из лабораторий в реальные клинические условия, где врачи используют ИИ-инструменты для принятия решений «у постели пациента».

## 🏥 Кейс: ИИ против сепсиса
[[JUMP:16:42]]

Сепсис является одной из главных причин смерти пациентов в стационарах. Сариа подчеркивает, что ранняя диагностика — ключевой фактор, радикально меняющий клинический исход.

Результаты внедрения разработанной Bayesian Health системы мониторинга в пяти госпиталях с апреля 2018 года показали значимые метрики:

*   **Масштаб:** через систему было пропущено около 500 000 пациентов.
*   **Вовлеченность:** в 89% случаев, когда система сигнализировала о риске, врачи и медсестры обращались к данным и вносили свою оценку.
*   **Скорость:** в случаях, где врачи принимали решения на основе рекомендаций системы, медианное время начала лечения сократилось на 1,9 часа.
*   **Точность:** удалось добиться десятикратного улучшения точности (precision) по сравнению с широко распространенным программным обеспечением, что позволило значительно сократить количество ложных срабатываний (один из трех сигналов оказывался подтвержденным случаем сепсиса).

## 🛠 Методологические вызовы
[[JUMP:25:51]]

В отличие от задач распознавания лиц или обработки изображений, где существуют эталонные датасеты и понятные метрики, медицина сталкивается с уникальными проблемами:

*   **Отсутствие «золотого стандарта»:** В клинической практике часто сложно определить, что считать идеальным результатом или даже диагнозом — мнения экспертов могут расходиться.
*   **Нестабильность моделей (brittleness):** Модели, обученные на данных одного госпиталя, могут не работать в другом из-за различий в протоколах лечения и сборе данных.
*   **«Грязные» данные:** Больничные данные характеризуются высокой степенью пропусков и неоднородностью, что требует разработки устойчивых (shift-stable) методов обучения.

Сариа подчеркивает, что для медицины важны не только сами алгоритмы, но и **причинно-следственное (каузальное) мышление**. В качестве примера приводится случай с пневмонией, где алгоритм ошибочно классифицировал пациентов с астмой как «низкорисковых». Ошибка заключалась в игнорировании того факта, что такие пациенты попадали в реанимацию (ICU) именно из-за тяжести состояния и получали там лучший уход. Модели будущего должны использовать «контрфактическое мышление»: что произошло бы с пациентом, если бы вмешательство не было применено?

## 🤝 Взаимодействие врача и машины
[[JUMP:15:25]]

Ключевым выводом для разработчиков стала необходимость проектирования ИИ не как «черного ящика», а как инструмента для «человеко-машинного партнерства». Врачи не готовы слепо доверять системе; им важно понимать контекст, видеть обоснование риска и иметь возможность легко принять или опровергнуть решение алгоритма.

Первые запуски системы в 2017-2018 годах показали, что одного «работающего кода» недостаточно. Важную роль в успехе сыграли:

*   Партнерство с местными «чемпионами» (лидерами мнений среди врачей).
*   Создание интуитивно понятных интерфейсов, интегрированных непосредственно в электронную медицинскую карту (EMR).
*   Постоянный мониторинг вовлеченности для выявления и устранения барьеров.