# Макс Веллинг: „Квантовая механика — это просто иная теория статистики для нейросетей“

Источник: https://www.youtube.com/watch?v=mmDw5glry9w
Канал: Machine Learning Street Talk
Опубликовано: 03.01.2021

---

В новом выпуске Machine Learning Street Talk исследователь в области ИИ и профессор Амстердамского университета **Макс Веллинг (Max Welling)** рассказывает о том, почему современным нейросетям не хватает «здравого смысла» физики, как квантовая механика изменит алгоритмы обучения и почему научное сообщество должно отказаться от диктатуры конференций.

## 🧬 Геометрическое глубокое обучение и успех AlphaFold 2
[[JUMP:01:03]]

Макс Веллинг считается одним из пионеров геометрического глубокого обучения. Суть этого направления заключается в работе с данными, которые не вписываются в привычную евклидову сетку (как пиксели изображения), а имеют более сложную структуру: графы социальных связей, погодные паттерны на сфере или молекулярные соединения [01:40]. 

Ключевым прорывом в этой области стало использование **индуктивных смещений (inductive biases)**. Если обычные сверточные нейросети (CNN) используют симметрию переноса (собака в левом углу — та же собака, что и в правом), то Макс Веллинг внедрил в модели более сложные симметрии, такие как вращение и зеркальное отражение [02:59].

Важность этих методов подтвердилась триумфом системы **AlphaFold 2** от DeepMind. По словам Веллинга и ведущих, успех модели в предсказании структуры белков (задачи, не решавшейся 50 лет) напрямую связан с использованием эквивариантных трансформеров [04:55].

*   Белок рассматривается как пространственный граф.
*   Архитектура модели учитывает физические ограничения вращения и перемещения атомов в 3D (группа симметрии SE(3)).
*   Вместо того чтобы заставлять нейросеть «выучивать» законы физики с нуля, исследователи «вшили» их в саму структуру сети через индуктивные смещения [09:31].

## ⚛️ Квантовые нейросети: статистика против интуиции
[[JUMP:20:12]]

Макс Веллинг утверждает, что квантовые вычисления радикально изменят ландшафт машинного обучения, но не только за счет скорости «железа». По его мнению, квантовая механика — это, прежде всего, иная теория статистики [20:24].

Главное отличие квантовой логики от классической:

1.  **Классика:** Мы работаем с вероятностями (от 0 до 1). Если есть два пути для события, вероятности складываются.
2.  **Квант:** Мы работаем с амплитудами (похожими на квадратные корни из вероятностей). Амплитуды могут быть отрицательными [21:27].
3.  **Эффект:** События могут «аннигилировать» или отменять друг друга. Если два пути имеют амплитуды +2 и -2, вероятность события может внезапно стать нулевой [21:41].

Веллинг представил свою новую работу **«Квантовые деформированные нейронные сети» (Quantum Deformed Neural Networks)**. Это архитектуры, которые:

*   Учитывают явление спутанности (entanglement) состояний параметров и данных [1:16:43].
*   Могут имитироваться на классических компьютерах [22:06].
*   Полностью раскроют свой потенциал только с появлением реальных квантовых процессоров, позволяя решать задачи, которые сейчас требуют экспоненциальных вычислений [1:15:26].

## 📏 Переход от пикселей к непрерывному сигналу
[[JUMP:23:00]]

Традиционное компьютерное зрение воспринимает мир как сетку дискретных пикселей. Макс Веллинг считает это ограничением и предлагает рассматривать изображения как выборки из непрерывного сигнала. В статье **«Probabilistic Numeric Convolutional Neural Networks»** он описывает подход, использующий гауссовские процессы [24:07].

Преимущества такого метода:

*   Возможность работать с неструктурированными данными (когда точки замера распределены случайно, а не по сетке) [1:25:47].
*   Моделирование неопределенности: там, где данных мало, сеть честно «сообщает», что не уверена в сигнале [25:00].
*   Использование аппарата дифференциальных уравнений в частных производных (PDE) для описания сверток. Это позволяет нейросети вести себя как физическая система, плавно эволюционирующая во времени и пространстве [1:24:29].

## 🏛️ Проблема «научного гетто» и диктатура рецензирования
[[JUMP:18:39]]

Веллинг и ведущие Machine Learning Street Talk выразили обеспокоенность состоянием современной науки об ИИ. По их мнению, система рецензирования на конференциях (NeurIPS, ICML) страдает от «завистливости» и подавляет оригинальные идеи [19:18].

Критикуемые аспекты научной среды:

*   **Конвергентное поведение:** Исследователи боятся рисковать и выбирают темы, которые гарантированно пройдут через фильтры рецензентов (эксплуатация вместо исследования) [1:08:14].
*   **Hardware Lottery:** Термин Сары Хукер, описывающий ситуацию, когда идеи выживают не потому, что они лучше, а потому, что они лучше работают на текущих видеокартах GPU [1:04:47].
*   **Статичность:** Публикация в PDF считается финальной точкой, хотя наука должна быть непрерывным процессом [1:38:06].

Макс Веллинг предлагает решение:

1.  Переход на платформы типа **Open Review**, где рецензии публичны, подписаны именами авторов и сами имеют ценность как научные работы [1:09:46].
2.  Система «урожаев» (harvesting): авторы выкладывают работы на ArXiv в режиме реального времени, а конференции лишь раз в полгода «собирают» лучшие из них для презентаций, не являясь единственным источником истины [1:38:45].

## 🔮 Будущее: причинность против Big Data
[[JUMP:13:21]]

В споре о том, можно ли достичь сильного ИИ (AGI) простым масштабированием данных и вычислительных мощностей, Макс Веллинг занимает сторону «умеренных скептиков». Он признает мощь GPT-3, но считает, что без понимания причинно-следственных связей (causality) модели всегда будут хрупкими [13:59].

Иллюстрация Веллинга о корреляции и причинности:

*   В Нидерландах определенный цвет автомобиля может коррелировать с аварийностью из-за местных культурных привычек. Эта модель сломается в другой стране [13:34].
*   Уровень тестостерона — физический фактор, влияющий на риск агрессивного вождения. Эта закономерность будет верна везде [13:47].

По словам Веллинга, путь к настоящему интеллекту лежит через **генеративные модели**, которые не просто предсказывают следующий токен, а симулируют физику мира внутри «цифрового мозга», подобно тому как люди проигрывают сценарии будущего в воображении [50:06].