Эрик Хорвиц: «Скептикам придется держаться за свои места»

World Science Festival 109 тыс. 40 мин 9 мин 09.08.2024
Главное

Развитие искусственного интеллекта стремительно меняет привычные подходы к решению повседневных задач, однако его влияние на фундаментальную науку обещает стать по-настоящему революционным. В рамках дискуссии на World Science Festival директор по науке Microsoft Эрик Хорвиц и физик Брайан Грин обсудили, как генеративные модели трансформируют методологию исследований, ускоряют открытие новых материалов и лекарств, а также создают новые парадигмы мышления. Центральной темой беседы стал вопрос о том, способен ли ИИ не просто находить статистические закономерности, но и формировать глубокое понимание законов Вселенной, дополняя или даже вытесняя человеческую интуицию.

⚡ Ускорение и синтез: новая эпоха научных открытий 3:35

Традиционный научный метод всегда опирался на кропотливое накопление эмпирических данных, человеческую интуицию и способность исследователей замечать скрытые закономерности. Однако появление современных систем искусственного интеллекта знаменует собой радикальный сдвиг парадигмы, предлагая беспрецедентные вычислительные мощности и способность выявлять паттерны, недоступные человеческому разуму.

По словам Эрика Хорвица, директора по науке Microsoft, главным преимуществом ИИ на текущем этапе становится колоссальное ускорение и амплификация уже привычных процессов. Исследования в области материаловедения или фармацевтики, которые раньше требовали долгих лет компьютерного моделирования и лабораторного анализа, сегодня сжимаются до месяцев или даже недель. Системы способны не просто автоматически перебирать формулы, но и давать ученым прямые подсказки, какие именно эксперименты в «мокрой лаборатории» (wet lab) целесообразно провести в первую очередь, что экономит огромные финансовые и временные ресурсы.

Другим важнейшим аспектом ИИ-революции Хорвиц называет междисциплинарный синтез. Человечество достигло пика специализации, когда лучшие ученые являются узкими экспертами в своей нише, а преодолеть барьеры между далекими дисциплинами крайне сложно. В то же время алгоритмы машинного обучения не знают предметных границ, поскольку обучаются на всем массиве доступных данных.

Хорвиц вспоминает, что когда его команда в Microsoft получила доступ к закрытому тестированию GPT-4 в августе 2022 года — за несколько месяцев до публичного релиза версии GPT-3.5 в ноябре — главным словом для описания системы стало «полиматичность» (эрудированность во многих сферах). Чтобы воспроизвести тот спектр знаний, который демонстрировала модель в разных областях науки, потребовалась бы целая комната высококлассных экспертов. Таким образом, ИИ берет на себя роль «клея», соединяющего изолированные научные специализации.

🧠 Модели мира и загадка машинного сознания 6:25

В научном сообществе ведутся споры о том, способны ли искусственные системы совершать масштабные теоретические обобщения, подобные озарению Исаака Ньютона, который связал падение яблока с движением небесных тел. Хорвиц убежден, что современные нейросети уже демонстрируют первые признаки такой способности. Если раньше их роль сводилась к сортировке, фильтрации и распознаванию образов, то теперь они переходят к полноценному синтезу.

Одним из наиболее удивительных феноменов, по мнению Хорвица, стало зарождение у больших языковых моделей аналога человеческой «теории разума» (Theory of Mind) — способности понимать иные точки зрения и мотивы собеседника. В медицинской сфере это позволяет ИИ после постановки диагноза точно предугадывать, какие именно вопросы возникнут у пациента, исходя из его личного восприятия ситуации.

Брайан Грин задается вопросом: стоит ли удивляться подобным свойствам, если нейросети обучались на гигантских массивах человеческой литературы, где подробно описаны наши эмоции, реакции и особенности взаимодействия? Хорвиц парирует, что даже опытные специалисты по искусственному интеллекту сегодня находятся в замешательстве. Он признается, что до недавнего времени четко понимал принципы работы всех создаваемых технологий, однако возможности современного генеративного ИИ во многом остаются для него загадкой.

Эта ситуация напоминает Хорвицу его ранние годы изучения нейробиологии, когда ученых поражало, как взаимодействие отдельных простых элементов — нейронов — порождает сложнейшие высокоуровневые функции мозга. На вопрос Грина о возможности наличия у ИИ хотя бы минимальных элементов сознания Хорвиц отвечает сдержанно. Он подчеркивает следующее:

🔋 Кейс 1: Революция в материаловедении и новые батареи 12:38

Одним из наиболее ярких практических примеров трансформации науки стало сотрудничество команд Microsoft с Тихоокеанской северо-западной национальной лабораторией (PNNL) США. Перед исследователями стояла критически важная задача для сферы устойчивой энергетики — разработка мощных, но при этом дешевых и доступных аккумуляторных батарей, способных эффективно сохранять энергию солнца и ветра.

Для решения этой проблемы ученые применили гибридный подход, объединив ИИ с классическими вычислениями:

  1. Нейросети использовались для аппроксимации сложнейших квантовомеханических взаимодействий, что позволило обойти ограничения классической квантовой химии, требующей долгих лет расчетов.
  2. На первом этапе ИИ сгенерировал колоссальное семейство потенциально возможных атомных структур электролитов, насчитывающее около 30 миллионов вариантов.
  3. Затем с помощью специализированных ИИ-конвейеров (pipelines) массив был отфильтрован по критериям термической стабильности и технологичности производства до нескольких сотен соединений.
  4. На финальной стадии были задействованы тяжелые классические вычислительные методы, включая расчеты теории плотности функционала (DFT), позволившие сократить выборку до единичных кандидатов.

В результате этого многоступенчатого процесса система выделила одну уникальную структуру, которая легла в основу создания принципиально новой батареи. Данное вещество использует на 70% меньше дефицитного и дорогого лития, заменяя его натрием. Как подчеркивает Эрик Хорвиц, это не просто теоретическая модель: аккумулятор уже физически собран и успешно питает реальные механизмы прямо сейчас. Весь процесс создания материала от начала до конца занял всего несколько месяцев вместо потенциальных десятилетий.

🧬 Кейс 2: Биомедицина, белковые взаимодействия и антибиотик Халицин 17:03

Не менее впечатляющие сдвиги происходят в области биологических наук. Успех таких систем, как AlphaFold и RosettaFold, открыл ученым доступ к трехмерным структурам практически всех известных белков. Однако определение структуры — лишь первый шаг; куда сложнее предсказать их функции и молекулярную динамику взаимодействия.

В рамках проекта Университета Вашингтона ученые применили вычислительный микроскоп на базе ИИ для анализа взаимодействия множества белков внутри эукариотической клетки дрожжей. Алгоритмы выявили массу ранее неизвестных вариантов межбелкового взаимодействия. Это ошеломило биологов, которые признались, что понятия не имеют о функциональном назначении этих связей, что открыло совершенно новые направления в изучении механизмов живых систем.

Отвечая на вопрос о происхождении обучающих данных, Хорвиц поясняет, что в таких точных дисциплинах, как физика и химия, датасеты можно генерировать искусственно, запуская симуляции базовых законов физики (например, уравнений Шрёдингера) на суперкомпьютерах.

Другим прорывным направлением стало перепрофилирование существующих лекарств для борьбы со стремительно растущим кризисом устойчивости бактерий к антибиотикам. В ходе масштабного скрининга библиотек соединений алгоритм обнаружил, что старое лекарство от диабета обладает мощнейшими антибактериальными свойствами. Новый антибиотик получил название Халицин (Halicin) — в честь суперкомпьютера HAL 9000 из культового фильма «Космическая одиссея 2001 года».

В развитие этого успеха команда Джеймса Коллинза из MIT применила методы так называемого «объяснимого ИИ» (explainable AI). Ученые загрузили в систему данные:

Система смогла спроектировать абсолютно новую молекулу в безопасном для человека структурном пространстве, а также визуализировать механизм ее действия, который ранее не был известен науке. Оказалось, что химическое соединение буквально «коротит» электрохимический потенциал на мембране бактерии, мгновенно лишая ее источника энергии и уничтожая на месте.

🌌 Новая научная парадигма: от уравнений к паттернам данных 23:53

Брайан Грин отмечает фундаментальное отличие нового подхода от классической науки. На протяжении столетий физики, заметив закономерность, бежали к школьной доске, чтобы составить систему дифференциальных уравнений и использовать ее для прогнозов. В случае же с ИИ формулы отходят на второй план — система выявляет статистические паттерны напрямую из колоссальных массивов данных.

По мнению Хорвица, при увеличении масштаба и усложнении простой задачи (например, предсказания следующего токена текста, пикселя изображения или аминокислоты в белке) нейросети начинают индуцировать внутренние «модели мира». Для идеального сжатия информации им приходится самостоятельно выводить базовые принципы химии и физики, формируя глубокое понимание процессов. Тем не менее, Хорвиц признает, что ученым еще предстоит найти оптимальный баланс между предоставлением ИИ априорных человеческих знаний (тех самых дифференциальных уравнений) и чистым обучением на данных.

В качестве примера нестандартного мышления ИИ Хорвиц приводит работу специальной группы при Совете советников президента США по науке и технологиям, куда входит он сам и Нобелевский лауреат Сол Перлмуттер. Моделям вроде GPT-4 и Claude предлагали поразмышлять над сложнейшими космологическими гипотезами (например, инфляционная модель Вселенной против циклической). Физики оценили ответы ИИ на уровне «амбициозного аспиранта», что само по себе невероятно для технологий, которых не существовало еще пять лет назад.

Еще более удивительный случай произошел при поиске редких алюминиевых квазикристаллов, которые крайне сложно найти в природе. На вопрос физика о том, где на Земле стоит искать такие структуры, обычная крупная языковая модель выдала оригинальную гипотезу: проверить места ударов молний в бокситовые рудники, особо порекомендовав отправиться в поверхностные шахты Венесуэлы, где фиксируется высочайшая грозовая активность. Хорвиц с юмором добавил, что эта идея настолько заинтриговала ученых, что они сразу задумались о покупке билетов в Венесуэлу.

🛡️ Двойное назначение и вызовы безопасности 30:23

Как и любая фундаментальная технология, созданная человечеством — от первобытного огня до интернета, — искусственный интеллект является технологией двойного назначения. Хорвиц выражает серьезное беспокойство тем, что мощные инструменты проектирования белков могут быть использованы злоумышленниками для создания новых опасных токсинов или биологического оружия.

Для предотвращения подобных сценариев необходимо сохранять жесткую бдительность. Хорвиц обращает внимание на исполнительный указ президента США по ИИ, где отдельный акцент сделан на биобезопасности. В частности, вводятся требования к обязательной верификации и скринингу всех заказов на аппаратах для синтеза ДНК, чтобы исключить возможность создания опасных патогенов лицами со злыми намерениями.

Помимо биологических угроз, ИИ порождает масштабные вызовы в информационной сфере, включая генерацию дипфэйков и распространение дезинформации. Тем не менее, Хорвиц сохраняет оптимизм, указывая, что параллельно развиваются защитные технологии верификации контента, способные удерживать человечество на безопасном треке.

🎨 Творчество машин и будущее человечества 32:36

Главными целями внедрения ИИ Хорвиц считает борьбу со смертельными болезнями, увеличение продолжительности жизни людей, трансформацию массового образования и расширение понимания устройства Вселенной. Своей личной академической мечтой он называет разгадку человеческого разума и прогнозирует скорое слияние нейробиологии и ИИ в единую научную дисциплину.

Комментируя острый спор о том, способны ли современные нейросети к подлинному творчеству или же они просто механически перемешивают старые фрагменты данных, Хорвиц твердо заявляет: ИИ впечатляюще креативен и со временем станет еще более изобретательным. Он указывает на то, что человеческое творчество устроено точно так же — даже самые неординарные мыслители комбинируют ранее изученные ментальные паттерны и методы. Скептикам, отрицающим креативный потенциал машин, Хорвиц советует «держаться за свои места», поскольку развитие идет по экспоненте, и ситуацию стоит переоценить уже через 18 месяцев.

На финальный вопрос Брайана Грина о том, не сделает ли сверхумный ИИ ученых-людей избыточными и устаревшими, Хорвиц призывает не поддаваться панике:

Резюмируя дискуссию, Хорвиц отмечает, что через тысячу лет историки обязательно дадут отдельное название следующим 50 годам, поскольку мы вступили в уникальную эпоху глубочайшей трансформации цивилизации.

💬 Цитаты

«Скептикам, отрицающим креативность машин, я скажу: держитесь за свои места, потому что мы находимся на экспоненциальной кривой.»

Эрик Хорвиц 35:40

«Впервые за долгое время я чувствую себя отчасти мистифицированным системами, которые мы сами же и строим.»

Эрик Хорвиц 09:43
👥 Спикеры
🎬 Упомянутые фильмы и сериалы
📖 Термины
Плотность функционала (DFT)
Квантовохимический метод расчета электронной структуры молекул и твердых тел.
Теория разума (Theory of Mind)
Способность моделировать чужие психические состояния, мотивы, знания и убеждения.
Квазикристаллы
Твердые тела с упорядоченной, но непериодической кристаллической структурой.
Электролит
Вещество, проводящее электрический ток вследствие распада на ионы, критически важное для работы батарей.
Токен
Минимальная единица текста (слово или часть слова), которой оперируют языковые модели.
📊 Цифры
🗓 Хронология
  1. Август 2022 года Команда Эрика Хорвица в Microsoft получает закрытый доступ к тестированию GPT-4.
  2. Ноябрь 2022 года Публичный релиз ИИ-систем (ChatGPT на базе GPT-3.5), вызвавший всплеск глобального интереса.
  3. Февраль-март 2023 года Официальный выход GPT-4 и публикация первых масштабных отчетов о возможностях модели.
⚖️ Другая сторона
Искусственный интеллект Эрик Хорвиц Брайан Грин Microsoft GPT-4 AlphaFold