Почему ИИ ошибается в диагнозах и как квантовые физики это исправили

Perimeter Institute 15,4 тыс. 1 ч 4 мин 5 мин 08.10.2020
Главное

В современной науке рождается интригующий союз: методы машинного обучения и статистики объединяются с фундаментальной квантовой физикой. Исследователи из Perimeter Institute, Роберт Спеккенс и Эли Вулф, представили концепцию «квантового детектива», где физик не просто наблюдает за частицами, а распутывает сложные причинно-следственные связи, используя инструментарий анализа данных.

🕵️ Квантовый физик как детектив: суть причинного вывода 5:32

Роберт Спеккенс определяет исследователя в области причинного вывода (causal inference) как своего рода детектива . Его главная улика — статистические корреляции, а задача — восстановить истинную историю причин и следствий, которая стоит за этими цифрами.

Главная заповедь в этой школе детективов: «Корреляция не означает причинно-следственную связь» . Чтобы проиллюстрировать это, Спеккенс приводит три классических примера:

🛠 Инструментарий причинного детектива: от монет до неравенств 11:58

Когда данные запутаны, исследователи используют специальные техники для проверки своих подозрений:

  1. Рандомизированное контролируемое испытание (РКИ): Чтобы разорвать связь между скрытой причиной и действием, вводится случайный фактор (например, подброс монеты) . Если решение о приеме лекарства принял жребий, а корреляция с выздоровлением осталась — значит, лекарство работает. Однако РКИ часто невозможны по этическим или финансовым причинам .
  2. Инструментальные переменные: Если вмешаться напрямую нельзя, физики и статистики ищут «инструмент» — фактор, который влияет на причину, но не связан со следствием напрямую . В примере с лекарствами это могут быть рекомендации властей в разных странах.
  3. Инструментальные неравенства: Это математические ограничения на то, какими могут быть корреляции при определенной «подозрительной» схеме связей . Если данные нарушают эти неравенства, детектив понимает: его модель неверна, и в системе есть неучтенное влияние .

🌌 Квантовый поворот: Белл против Перла 20:02

Роберт Спеккенс утверждает, что многие загадки квантовой теории — это на самом деле случаи путаницы между корреляцией и причинностью . Ключевым моментом здесь является теорема Джона Белла.

В квантовом эксперименте две частицы разлетаются в разные стороны, их измеряют, и результаты демонстрируют странную зависимость .

Спеккенс считает, что понимание квантовой причинности критически важно для объединения квантовой теории и теории относительности, так как Эйнштейновское пространство-время — это, по сути, структура потенциальных причинных связей .

📈 Технология «Инфляции» и будущее ИИ 31:10

Эли Вулф развивает эту идею, переходя от простых схем к сложным сетевым структурам, типичным для современной медицины или сельского хозяйства . Он подчеркивает, что за 50 лет после Джона Белла квантовые физики накопили колоссальный опыт в поиске «невозможных» корреляций.

Вулф представляет разработку группы физиков из Perimeter Institute — метод инфляции (inflation technique). Этот алгоритм позволяет взять любую сложную диаграмму причинно-следственных связей и вывести для неё математические ограничения (неравенства) . Если данные нарушают эти границы, гипотеза отбрасывается — прямо как в детективе Шерлока Холмса: «отбросьте невозможное, и то, что останется, будет правдой» .

Это имеет прикладное значение для:

🏥 От квантов к медицине: кейс Babylon Health 43:48

Эли Вулф приводит яркую историю успеха бывшего студента Perimeter Institute, Кирона Гиллигана Ли, который применил квантовый подход в британской медицинской компании Babylon Health .

Компания использовала ИИ для автоматической диагностики. Старый алгоритм совершал странную ошибку: если пациент жаловался на боль в груди, ИИ часто выдавал диагноз «диабет» . Но диабет не вызывает болей в груди напрямую.

Физик-детектив Ли обнаружил ошибку в «мышлении» ИИ:

  1. Боль в груди часто связана с ожирением .
  2. Диабет также сильно коррелирует с ожирением .
  3. ИИ видел статистическую ассоциацию между болью в груди и диабетом через общее ожирение.
  4. Однако лечение диабета не избавит от боли в груди.

Кирон переписал алгоритм на основе причинного вывода, заставив систему задавать контрфактический вопрос: «Что мне нужно вылечить, чтобы симптомы исчезли?» . Это улучшило точность диагностики на 30% .

❓ Вопросы и ответы: COVID-19 и советы студентам 51:07

В ходе дискуссии спикеры затронули актуальные темы:

Завершая лекцию, Эли Вулф выразил уверенность, что если бы Шерлок Холмс столкнулся с тайнами квантовой механики сегодня, он обязательно стал бы квантовым физиком, ведь это поле дает самые захватывающие загадки для ума .

💬 Цитаты

«Корреляция не означает причинно-следственную связь.»

Роберт Спеккенс 07:53

«Квантовый детектив ищет историю о причине и следствии, которая объяснит статистические доказательства.»

Роберт Спеккенс 06:12

«ИИ часто отвечает не на тот вопрос: он ищет ассоциации, а нам нужны контрфактические выводы.»

👥 Спикеры
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
Причинный вывод (Causal Inference)
Область статистики и машинного обучения, изучающая способы определения причинных связей на основе данных.
Парадокс Симпсона
Статистический эффект, при котором тренд в нескольких группах данных исчезает или меняется на противоположный при объединении этих групп.
Неравенства Белла
Математические условия, нарушение которых в эксперименте доказывает невозможность классического объяснения квантовых явлений.
Метод инфляции
Техника, разработанная в Perimeter Institute для вывода ограничений на корреляции в сложных сетях причинно-следственных связей.
📊 Цифры
🗓 Хронология
  1. 1950 Опубликовано исследование о связи курения и рака легких, вызвавшее споры о корреляции и причинности.
  2. 1964 Джон Белл сформулировал теорему, перевернувшую понимание реальности в физике.
  3. 2008 Роберт Спеккенс присоединился к Perimeter Institute.
  4. Март 2020 Начало пандемии COVID-19, данные которой стали объектом для анализа методами причинного вывода.
⚖️ Другая сторона
Математика и физика Robert Spekkens Elie Wolfe Perimeter Institute causal inference квантовая механика