# Бывший глава Digital Health FDA о будущем ИИ: «Нам нужны вертолеты, а не быстрые машины»

Источник: https://www.youtube.com/watch?v=v44pVYj-ciw
Канал: Stanford Online
Опубликовано: 25.02.2025

---

В рамках серии встреч «AI in Healthcare» на базе Стэнфордского университета эксперты обсудили текущее состояние генеративного ИИ в медицине и те барьеры, которые мешают его массовому внедрению. В дискуссии приняли участие Джастин Нордон (основатель Qualified Health), Мэтт (главный научный сотрудник Microsoft в сфере здравоохранения) и Трой Тазбаз, бывший глава отдела цифрового здравоохранения FDA, который поделился уникальным взглядом на проблему со стороны регулятора.

## 📈 Революция продуктивности: «Тайные киборги» в белых халатах
[[JUMP:01:48]]

Современные исследования показывают колоссальный разрыв между тем, как ИИ используется отдельными специалистами, и тем, как его принимают медицинские организации. Мэтт ссылается на недавние данные, согласно которым использование передовых моделей ИИ может утроить продуктивность при выполнении задач, связанных с интеллектуальным трудом [03:06]. При этом в профессиональной среде наблюдается феномен, который эксперт по ИИ Итан Моллик назвал «тайными киборгами»: люди активно используют нейросети для работы, но не афишируют это перед руководством [02:39].

Ситуация в медицине выглядит следующим образом:

*   Согласно исследованию British Medical Journal (BMJ), около 20% врачей общей практики в Великобритании используют инструменты ИИ в клинической работе как минимум еженедельно [04:02].
*   В то же время опрос организации HIMSS показывает, что большинство медицинских учреждений ограничивают доступ к чат-ботам и не проводят обучение персонала работе с ИИ [04:42].
*   Джастин Нордон отмечает ироничную ситуацию: пока клиники официально запрещают ChatGPT из соображений конфиденциальности (HIPAA), врачи продолжают использовать его на личных смартфонах [05:09].

Трой Тазбаз объясняет этот консерватизм тем, что расходы на IT в здравоохранении исторически ниже, чем в других отраслях [06:01]. По его мнению, медицина всегда следует за технологическим прогрессом с опозданием, а традиционная система обучения врачей еще не адаптировалась к тому, что их профессия становится максимально зависимой от алгоритмов [07:10].

## 🔄 Смена парадигмы: от внедрения сверху к запросу снизу
[[JUMP:07:39]]

Традиционно медицинское ПО внедряется «сверху вниз»: администрация выбирает вендора, оценивает окупаемость (ROI) и навязывает инструмент персоналу. Однако с генеративным ИИ ситуация иная — это «донный» (bottoms-up) процесс. Технология настолько доступна и эффективна, что она просачивается в клиники через личные устройства сотрудников [08:05].

Трой Тазбаз предлагает изменить подход к цифровизации:

1.  **Формирование сигнала спроса.** Вместо того чтобы ждать предложений от IT-гигантов, больничные системы должны объединяться и четко формулировать свои проблемы, которые требует решения [11:47].
2.  **Прозрачность использования.** Стэнфорд и UCSF уже создают внутренние защищенные инстанции ИИ, чтобы видеть, для каких именно задач врачи используют нейросети в реальности [12:26].
3.  **Отказ от статичных снимков.** По мнению Мэтта, оценивать возможности ИИ сегодня — это всё равно что пытаться сделать фотоснимок кадра в фильме: через мгновение ситуация уже изменится, так как скорость развития моделей феноменальна [13:20].

## 🧠 Человек vs Машина: когда «врач + ИИ» проигрывает просто «ИИ»
[[JUMP:15:50]]

Одной из самых спорных тем дискуссии стала эффективность связки врача и нейросети. Долгое время считалось аксиомой, что ИИ должен быть лишь помощником («human-in-the-loop»), и результат их совместной работы всегда будет лучше, чем работа каждого по отдельности. Однако свежие данные ставят это под сомнение.

Джастин Нордон упоминает исследования профессора Стэнфорда Джонатана Чена, которые показывают, что в ряде тестов ИИ в одиночку справляется лучше, чем врач, использующий этот же ИИ [16:05]. Мэтт признается, что эта информация вызывает у него «экзистенциальный кризис», так как он годами продвигал идею партнерства человека и машины [16:30].

Аргументы участников по этому поводу:

*   **Проблема интерфейса.** Возможно, врачи пока просто не умеют эффективно взаимодействовать с моделью (промпт-инжиниринг) [17:10].
*   **Ложные цели.** Трой Тазбаз считает опасным «стравливание» ИИ и врачей в академических тестах. По его мнению, это лишь замедляет внедрение технологии, вызывая сопротивление у медиков [18:55].
*   **Смена фокуса.** ИИ должен забирать на себя те задачи, где он объективно сильнее (анализ данных, рутина), позволяя человеку сосредоточиться на эмпатии и сложных клинических решениях [19:08].

Трой приводит аналогию: «Вы можете выгнать Ferrari на шоссе 101 в час пик. Она доедет до цели одновременно с дешевой малолитражкой, но вы просто потратите лишние деньги» [19:47]. В нынешней системе здравоохранения ИИ часто используют как ту самую Ferrari в пробке, не давая ему раскрыть потенциал из-за устаревших процессов.

## 🚁 Вертолет в мире пробок: переосмысление «системы болезней»
[[JUMP:21:43]]

Участники сошлись во мнении, что в США на самом деле нет «системы здравоохранения» (Healthcare) — есть «система ухода за больными» (Sick-care), которая работает эпизодически, когда человек уже заболел [24:10]. Генеративный ИИ может стать инструментом, который превратит эту систему в нечто иное.

Мэтт предлагает взглянуть на ИИ не как на Ferrari, а как на вертолет [23:30]. Если мы пытаемся ехать на нем по дороге, мы ограничены правилами дорожного движения и трафиком. Но если мы осознаем, что эта технология способна летать, нам придется выстроить совершенно новую инфраструктуру — от посадочных площадок до правил авиасообщения [23:44].

Ключевые возможности новой модели:

*   **Субъективность пациента (Agency).** ИИ дает пациентам возможность глубоко изучить свою болезнь за пару часов, приходя на прием более подготовленными [25:02].
*   **Решение административного кризиса.** Внедрение инструментов «эмбиент-заметок» (автоматическое ведение протокола приема) уже сейчас радикально снижает выгорание врачей, избавляя их от бумажной работы [22:37].

## 🛡️ Регуляция и безопасность: взгляд бывшего главы FDA
[[JUMP:25:30]]

Трой Тазбаз, основываясь на своем опыте в FDA, утверждает, что регуляция не должна быть тормозом инноваций. Он определяет её как «продвинутые ограждения» (guardrails), которые необходимы в любой критически важной отрасли, будь то авиация или физика [26:36].

Основные принципы безопасного ИИ по Тазбазу:

1.  **Жизненный цикл вместо разовой проверки.** В отличие от статичных медицинских приборов, генеративный ИИ постоянно учится и меняется. Регулятор должен оценивать не только продукт в момент выхода, но и процессы его обновления [27:56].
2.  **Постоянный мониторинг.** Для Тазбаза стало неожиданностью, что в медицине софт часто внедряется без систем глубокого мониторинга производительности в реальном времени. В корпоративном IT-мире это недопустимо [28:34].
3.  **Совместная работа.** Государство не должно диктовать правила в одиночку; индустрия должна сама предлагать здравые ограничения, которые реально внедрить на практике [27:16].

В завершение встречи эксперты подчеркнули, что главная ценность ИИ в медицине — это возвращение врачу времени для пациента. Как заметил Мэтт, он готов использовать любой инструмент, который позволит ему «снять слои административной луковицы» и вернуться к тому, ради чего он шел в профессию [22:11].