Анима Анандкумар: «ИИ предсказал мутации Омикрона до того, как они появились»

Stanford Online 43,3 тыс. 1 ч 16 мин 4 мин 09.09.2024
Главное

В Стэнфордском университете в рамках курса ECON295/CS323 состоялось выступление Анимы Анандкумар — профессора вычислительной техники Калифорнийского технологического института (Caltech) и бывшего ведущего специалиста в NVIDIA и Amazon Web Services. В своей лекции Анандкумар представила концепцию перехода от ИИ, оперирующего только языком, к «научному ИИ», способному моделировать физическую реальность, предсказывать мутации вирусов и ускорять сложные инженерные расчеты в миллионы раз.

🧬 От текста к действию: Новая эра генеративного ИИ 0:35

Традиционное представление о генеративном ИИ чаще всего ограничивается языковыми моделями (LLM). Однако, по мнению Анимы Анандкумар, истинная революция происходит в области высокомерных распределений, где ИИ учится генерировать не только слова, но и сложные физические структуры: молекулы, белки и геномы вирусов .

Принципиальное различие между прошлым и нынешним десятилетием в сфере ИИ заключается в переходе от дискриминативных моделей к генеративным:

Тем не менее, Анандкумар подчеркивает, что языковым моделям не хватает «воплощения» (embodiment) — способности переводить слова в действия в физическом мире . В качестве примера она привела проект Voyager, реализованный совместно со Стэнфордом, где агент ИИ использовал LLM для непрерывного обучения навыкам в игре Minecraft, самостоятельно выстраивая учебную программу от простых задач к сложным .

🧪 ИИ в борьбе с пандемиями: Предсказание мутаций 12:25

Одним из наиболее впечатляющих применений технологий Анандкумар стало создание первой геномной языковой модели. Вместо английского словаря модель обучалась на «алфавите» ДНК — нуклеотидах A, T, G и C .

Ключевые факты исследования:

Анандкумар утверждает, что такой подход позволяет создавать вакцины на опережение, имея готовый препарат до того, как опасный вариант вируса начнет распространяться в популяции .

⚛️ Нейронные операторы: Ускорение физики в миллионы раз 18:17

Главной технической проблемой современного моделирования физических процессов (погода, динамика жидкостей, термоядерный синтез) является вычислительная сложность. По словам спикера, для точного квантового моделирования молекулы из 100 атомов традиционными методами потребовалось бы время, превышающее возраст Вселенной .

Для решения этой задачи команда Анандкумар разработала нейронные операторы (Neural Operators).

Результаты применения нейронных операторов:

  1. Термоядерный синтез: Скорость расчета эволюции плазмы в токамаке выросла в 1 000 000 раз .
  2. Прогноз погоды: Модель FourCastNet работает в 45 000 раз быстрее традиционных численных методов .
  3. Доступность: То, что раньше требовало суперкомпьютера, теперь можно запустить на домашнем игровом ПК с одной GPU .

🌦️ Метеорология и борьба со скепсисом 39:26

Внедрение ИИ в метеорологию столкнулось с серьезным сопротивлением «старой гвардии». Анандкумар вспоминает, что многие эксперты считали Deep Learning неспособным предсказывать редкие экстремальные события, такие как ураганы .

Однако практика показала обратное: модель FourCastNet предсказала траектории некоторых ураганов точнее, чем суперкомпьютерные модели. Это привело к тому, что крупнейшие организации, такие как ECMWF (Европа) и NOAA (США), начали внедрять эти ИИ-модели в свою работу .

Огромным преимуществом стала работа с неопределенностью. Традиционные модели из-за дороговизны запускают всего 50 сценариев развития погоды («ансамблей») . Использование ИИ позволяет прогонять миллионы сценариев почти бесплатно, что критически важно для оценки вероятности того, ударит ли ураган по конкретному городу или пройдет мимо .

🏗️ Проектирование будущего: Катетеры и микросхемы 11:00

ИИ меняет не только научные расчеты, но и физический дизайн объектов (Inverse Design). Анандкумар представила пример медицинского катетера, разработанного в Caltech с помощью ИИ .

Также технология применяется для оптимизации фотошаблонов в литографии при производстве полупроводников, где физические эффекты дифракции на наноуровне становятся критическим препятствием для закона Мура .

🎓 Математика как предохранитель от галлюцинаций 8:42

Одной из самых острых проблем LLM остаются «галлюцинации» — уверенные, но ложные утверждения. В научной сфере это недопустимо. Решение Анандкумар заключается в связке языковых моделей с формальными верификаторами (например, языком Lean) .

В этой связке:

  1. ИИ (LLM) выступает как «интуитивный математик», предлагая шаги доказательства теоремы.
  2. Lean выступает как строгий цензор, проверяя каждый шаг на соответствие логическим законам. Если доказательство проходит через верификатор, оно гарантированно является истинным . Анандкумар считает, что такой «нейросимволический» подход со временем позволит ИИ не просто угадывать ответы, а обладать полноценным логическим рассуждением .

В завершение лекции Анима Анандкумар выразила надежду на создание «единой физической базовой модели» (Physical Foundation Model), которая будет понимать законы природы (гравитацию, термодинамику, электромагнетизм) так же естественно, как современные чат-боты понимают человеческий язык .

💬 Цитаты

«Для квантового моделирования молекулы из 100 атомов потребовалось бы время, превышающее возраст Вселенной.»

Анима Анандкумар 20:00

«Биологи гораздо более открыты к новым технологиям, чем физики, потому что в биологии меньше жестких догм.»

Анима Анандкумар 58:35
👥 Спикеры
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Нейронный оператор
Тип нейросети, способный аппроксимировать отображения между бесконечномерными пространствами функций, что позволяет моделировать физику независимо от разрешения сетки.
RLHF
Метод обучения модели с помощью обратной связи от человека (Reinforcement Learning from Human Feedback).
Воплощенный ИИ (Embodied AI)
Область ИИ, фокусирующаяся на создании агентов (роботов), которые могут взаимодействовать с физическим миром.
📊 Цифры
🗓 Хронология
  1. 2016 AlphaGo побеждает чемпиона мира по игре в го, демонстрируя мощь узкоспециализированного ИИ.
  2. 2020 Начало разработки нейронных операторов для сложных физических задач.
  3. 2024 Выступление в Стэнфорде и демонстрация успехов применения ИИ в биологии и верификации математики.
⚖️ Другая сторона
Искусственный интеллект Anima Anandkumar Nvidia FourCastNet Neural Operators Lean