# Скотт Ааронсон о будущем квантовых вычислений и ИИ

Источник: https://www.youtube.com/watch?v=AVYRW9Qdp7Q
Канал: World Science Festival
Опубликовано: 18.10.2024

---

В рамках проекта World Science Festival состоялась глубокая дискуссия между известным физиком Брайоном Грином и выдающимся специалистом по теоретической компьютерной науке Скоттом Ааронсоном. Участники обсудили реальные возможности и ограничения квантовых вычислений, развенчав популярные мифы об их «всемогуществе», а также проанализировали стремительный прогресс искусственного интеллекта и сопутствующие ему экзистенциальные риски. Встреча позволила сопоставить фундаментальные законы физики с логикой вычислительных систем на стыке двух технологических революций.

## 🧠 Квантовые вычисления: разрушение мифов и реальная сила
[[JUMP:1:05]]

По словам Скотта Ааронсона, в популярной прессе существует устойчивое заблуждение, будто квантовые компьютеры обеспечат экспоненциальное ускорение для абсолютно любой вычислительной задачи. В действительности квантовая физика позволяет ускорять лишь строго определенные типы задач, обладающие специфической математической структурой. Квантовые вычисления не являются синонимом некоего универсального ускорителя. 

Главным экономическим и научным приложением технологии Ааронсон называет симуляцию самой квантовой физики и химии. Эту идею еще 40 лет назад высказал Ричард Фейнман. По мнению Ааронсона, вместо сложнейших попыток смоделировать поведение квантовых систем на классических суперкомпьютерах, эффективнее использовать физические процессы самой природы, которые изначально подчиняются квантовым законам.

## 🔓 Алгоритм Шора и криптографическая угроза
[[JUMP:3:19]]

Настоящим прорывом, привлекшим внимание широкой общественности к индустрии, стало открытие Питером Шором в 1994 году (около 30 лет назад) алгоритма, способного взламывать криптосистемы с открытым ключом, защищающие современный интернет. Алгоритм Шора позволяет быстро находить простые множители огромных составных чисел, решая сложные задачи теории чисел и теории групп. 

Ааронсон поделился исторической справкой о создании алгоритма:

* В начале 1990-х годов Умеш Вазирани (научный руководитель Ааронсона в Беркли), Итан Бернштейн и Дэн Саймон обнаружили искусственные задачи, в которых квантовые машины давали экспоненциальное ускорение.
* Дэн Саймон написал статью об экспоненциальном ускорении для абстрактной задачи «черного ящика», но ведущая конференция по компьютерным наукам отклонила ее, посчитав проблему чересчур оторванной от реальности.
* Питер Шор, входивший в программный комитет, разглядел потенциал работы Саймона и понял, что изменение условий позволяет находить период периодических функций, что ведет к факторизации чисел. Шор потратил год на доработку деталей.

Ааронсон подчеркивает, что половина алгоритма Шора вообще не связана с квантовой механикой и относится исключительно к чистой теории чисел. Квантовая часть заключается в использовании квантового преобразования Фурье для извлечения периода функции.

На вопрос Брайана Грина о том, почему за три десятилетия не было создано обширной библиотеки подобных алгоритмов, Ааронсон ответил, что теоретические задачи жестко ограничены классами универсальности:

* Класс P включает задачи, эффективно решаемые классическим компьютером за полиномиальное время.
* Класс NP-полных задач включает сложнейшие проблемы комбинаторного поиска и оптимизации (например, судоку, сборка пазлов или составление оптимального расписания полетов).

По мнению Ааронсона и большинства теоретиков, квантовые компьютеры не способны дать экспоненциальное ускорение для NP-полных задач. В результате остаются лишь специфические проблемы в «демилитаризованной зоне» между P и NP, такие как факторизация чисел, для которых и работают уникальные алгоритмы Шора. Другим известным примером является алгоритм Гровера (1996 год), предлагающий квадратичное (но не экспоненциальное) ускорение для поиска в неструктурированных базах данных.

## 🎲 Случайность на заказ: патент Скотта Ааронсона
[[JUMP:11:47]]

Ааронсон рассказал о своем единственном за 25 лет карьеры патенте, имеющем практическую ценность, — технологии генерации криптографически сертифицированных случайных битов. Сгенерировать случайные числа с помощью квантовой механики легко, например, разместив счетчик Гейгера у радиоактивного материала. Проблема возникает, когда эти данные нужно опубликовать в интернете, и недоверяющие друг другу пользователи должны убедиться в их подлинной случайности.

По словам Ааронсона, это критически важно для блокчейн-систем на алгоритме Proof-of-Stake (таких как Ethereum), где на кону стоят миллиарды долларов. Существующие классические решения уязвимы для манипуляций. Квантовый патент Ааронсона заставляет квантовый компьютер решать задачи, требующие генерации решений с высокой энтропией. Попытка сфальсифицировать результат детерминированным путем потребовала бы решения задачи, непосильной даже для квантовой машины. Данная технология была временно лицензирована компанией Google.

## 🔢 Путь в науку: от калькуляторов к дискретной математике
[[JUMP:14:24]]

В ходе беседы спикеры затронули личные истории. Выяснилось, что Ааронсон начал изучать математический анализ в 13 лет (Грин отметил, что по его меркам это невероятно рано, хотя сам Грин, по слухам, начал в 11). Интерес Скотта пробудила книга с символами дифференциалов $d/dx$, принадлежавшая сиделке его брата, а также программируемый графический калькулятор. Брайан Грин вспомнил свой первый калькулятор Texas Instruments SR-10, который в детстве казался ему вершиной магии.

Ааронсон признался, что выбрал компьютерные науки, а не чистую физику, из-за отсутствия интуиции к дифференциальным уравнениям в частных производных. Ему комфортнее работать с дискретными, четко определенными объектами. Первым увлечением Ааронсона в 11-12 лет было создание собственных видеоигр. Осознание того, что виртуальный мир можно свести к математике через универсальность Тьюринга, он сравнил с моментом, «когда узнаешь, откуда берутся дети». 

Позже именно квантовые вычисления, требующие учета реальных физических законов для оценки вычислимости, вернули его к физике. Сегодня Скотт преподает курс квантовой информации в UT Austin для студентов разных специальностей, обходясь без дифференциальных уравнений и гамильтонианов на первом месяце обучения.

## 🌀 Волновая функция вселенной: как работает квантовый компьютер
[[JUMP:22:27]]

Ааронсон подробно объяснил физическую суть квантового ускорения. Обычный кубит находится в суперпозиции состояний «0» и «1». В отличие от классической вероятности (например, 70% на 30%), квантовая механика оперирует амплитудами, которые могут быть положительными, отрицательными или комплексными числами.

При расчете вероятности события амплитуды всех возможных путей складываются. Если одна амплитуда положительна, а другая отрицательна, они взаимно уничтожаются (деструктивная интерференция), и итоговая вероятность падает до нуля согласно правилу Борна (квадрат абсолютного значения амплитуды). Перекрывая один из путей, ученые могут парадоксальным образом увеличить вероятность события.

Масштаб квантовой системы растет экспоненциально:

* Для 2 кубитов требуется 4 амплитуды (00, 01, 10, 11).
* Для 3 кубитов — 8 амплитуд.
* Для 1000 кубитов требуется $2^{1000}$ амплитуд — это больше, чем количество атомов в обозримой Вселенной.

Как сформулировал Ааронсон, при любом изменении состояния системы из 1000 частиц природа «под капотом» переписывает гигантский черновик с огромным числом параметров. Однако при измерении кубиты схлопываются в случайное классическое состояние. По мнению Ааронсона, суть любого квантового алгоритма — так срежиссировать интерференцию, чтобы амплитуды неверных ответов взаимно погасились, а амплитуда правильного ответа максимально усилилась, причем сделать это нужно до того, как правильный ответ станет известен самому исследователю.

## 🌌 Загадка измерения: где прячется реальность?
[[JUMP:30:54]]

Обсуждая знаменитую проблему квантового измерения, Брайан Грин назвал ее главным недостающим звеном в понимании микромира. Ааронсон признался, что безуспешно пытался решить эту проблему в аспирантуре.

Описывая физику процесса, он отметил, что при измерении информация из кубита «утекает» в окружающую среду. Вся макроскопическая система (детектор, глаза, мозг экспериментатора, воздух в комнате) запутывается с кубитом. Уравнения Шрёдингера описывают это разделением реальности на параллельные ветви. Собеседники перечислили основные интерпретации этого феномена:

* Многомировая интерпретация (Эверетт): мы просто оказываемся в одной из ветвей, а наши двойники в другой ветви проживают альтернативный исход.
* Бомовская механика: предполагается наличие скрытых переменных, определяющих, какой именно исход будет пережит, хотя математически в уравнениях остаются обе ветви.
* Копенгагенская интерпретация: призывает «заткнуться и считать», не задавая лишних вопросов.

Ааронсон добавил, что некоторые физики (например, Роджер Пенроуз) считают квантовую механику лишь приближением к более точной теории. Сам Скотт склоняется к космологической гипотезе Леонарда Сасскинда и Рафаэля Буссо. По их мнению, момент необратимого измерения наступает тогда, когда информация о кубите запутывается с фотонами, улетающими со скоростью света за космологический горизонт нашей Вселенной (границу де Ситтера), откуда их уже невозможно собрать в единую систему.

Ааронсон критикует бомовскую механику за «радикальную не-уникальность» правил эволюции скрытых переменных. Он считает, что в квантовом компьютере, выполняющем алгоритм Шора, всю реальную работу совершает экспоненциально большая волновая функция, тогда как скрытые переменные Бома просто «болтаются» в ней, как щепка в океане, оставаясь комично иррелевантными для реальных процессов вычисления.

## 🛠️ На пороге инженерной революции: точность и квантовые ошибки
[[JUMP:41:47]]

Оценивая текущее состояние аппаратного обеспечения, Ааронсон назвал прогресс за последние 25–30 лет ошеломляющим. Ключевой метрикой является точность выполнения двухкубитных гейтов (two-qubit gate fidelity). В конце 1990-х годов точность в 50% считалась достижением для публикаций в Science или Nature. Сегодня платформы на сверхпроводящих кубитах, захваченных ионах и нейтральных атомах достигли или приближаются к точности 99.9%.

Для масштабирования технологии, согласно теории квантовой коррекции ошибок (разработанной 30 лет назад), не нужны идеальные гейты. Достаточно опустить уровень ошибок ниже определенной константы. Информация кодируется в «логические кубиты», состоящие из множества перепутанных физических кубитов. Изначально физический порог точности оценивался в фантастические 99.9999%, но благодаря улучшению схем коррекции сегодня теоретики считают достаточным уровень в 99.99%.

По мнению Ааронсона, ученые находятся всего в «одной девятке» (one nine) от критического порога. Как только он будет пройден, создание квантового компьютера превратится из задачи фундаментальной физики в чисто инженерную проблему. Хотя для этого потребуются миллиарды долларов, целые здания с криостатами растворения (dilution refrigerators) и миллионы физических кубитов, в принципе система будет работать. 

Ааронсон сравнил текущее состояние индустрии с 1939 годом в истории освоения ядерных цепных реакций, спрогнозировав появление масштабируемой отказоустойчивости в ближайшее десятилетие. В отрасль уже вливают миллиарды долларов такие гиганты, как Google, Microsoft, IBM, Amazon, стартапы и правительства США, ЕС и Китая. Помимо трех основных платформ, развиваются фотоника, квантовые точки и топологические кубиты (последние активно финансирует Microsoft, пытаясь создать новое, невиданное в природе состояние материи).

## 🛡️ Постквантовая защита: как спасти интернет
[[JUMP:52:09]]

Ааронсон поддерживает рекомендации по переводу правительственных и коммерческих систем на квантово-устойчивое шифрование. Национальный институт стандартов и технологий США (NIST) с 2017 года проводит конкурс по созданию стандартов постквантовой криптографии. Эти алгоритмы работают на обычных классических компьютерах, но базируются на математических задачах, которые, как предполагается, не могут эффективно решить даже квантовые процессоры (например, на задачах теории решеток).

Принцип микрокриптографии на решетках (lattice-based crypto systems) заключается в применении линейного преобразования в многомерной решетке с добавлением небольшого случайного шума. Без знания «хорошего базиса» решетки расшифровать сообщение невозможно. По словам Ааронсона, эти системы разрабатываются уже около 30 лет. Если раньше их считали непрактичными из-за огромного размера ключей, то сегодня они оптимизированы и готовы к внедрению. 

Основной проблемой Ааронсон видит организационный хаос: обновление браузеров, серверов и маршрутизаторов по всему миру станет огромной головной болью, учитывая, что некоторые организации до сих пор используют уязвимые операционные системы Windows из 1990-х годов.

## 🤖 Внезапный триумф ИИ: от скепсиса к «святому кощунству»
[[JUMP:56:41]]

Вторую половину встречи собеседники посвятили искусственному интеллекту. Ааронсон рассказал, что не был удивлен релизом ChatGPT в ноябре 2022 года только потому, что с весны 2022 года работал в OpenAI в качестве приглашенного исследователя по безопасности ИИ. Приглашение он получил от сооснователя компании Ильи Суцкевера и руководителя отдела выравнивания (alignment) Яна Лейке.

Ааронсон назвал успех больших языковых моделей (LLM) главным эмпирическим сюрпризом в своей жизни. Идея о том, что простая нейросеть, обученная на текстах из интернета банально предсказывать следующее слово, при наращивании масштабов вычислений совершит качественный скачок, казалась многим ученым абсолютно невозможной и «глупой». Против такого подхода существовало мощное предубеждение в академической среде.

Скотт вспомнил свои дебаты с известным идеологом искусственного интеллекта Элиэзером Юдковским в 2007–2008 годах. Тогда Юдковский утверждал, что появление человекоподобного ИИ — главная угроза человечеству, перед которой меркнут все остальные проблемы. В тот момент Ааронсон считал это преувеличением и полагал, что эволюции потребовались миллионы лет для создания разума, а значит, человеку понадобятся тысячи лет для его воссоздания. 

Однако теперь, по признанию Ааронсона, ему пришлось скорректировать свои убеждения и признать правоту Ии-скептиков. Работая внутри OpenAI, Скотт тестировал GPT-4 задолго до ее релиза и видел, как она с легкостью решает логические задачи, на которых спотыкалась GPT-3.

## 🔋 Физические пределы ИИ и модель o1
[[JUMP:1:03:10]]

Отвечая на вопрос о потенциальном замедлении прогресса LLM («выпрямлении экспоненты в сигмоиду»), Ааронсон перечислил ключевые физические барьеры:

* Исчерпание качественных текстовых данных в открытом интернете, что уже привело к череде судебных исков по авторским правам.
* Попытки обучать ИИ на контенте из TikTok или Instagram, по ироничному замечанию Ааронсона, могут сделать модель только глупее.
* Дефицит электроэнергии. Дошло до того, что Microsoft выкупила права на всю энергию перезапускаемой атомной электростанции Три-Майл-Айленд исключительно для питания своих дата-центров.
* Ограничение производства графических процессоров (GPU), которое резко усугубится в случае потенциального конфликта между Китаем и Тайванем.

Даже при достижении предела самих языковых моделей разработчики создают вокруг них внешние архитектуры. В качестве примера Ааронсон привел выпущенную осенью 2024 года модель OpenAI o1. Она использует обучение с подкреплением для многошагового рассуждения: модель совершает ошибки, замечает их, возвращается назад (бэктрекинг) и выдает очищенный от «черновика» логический ответ. o1 уже демонстрирует результаты на уровне лучших школьников США на математических олимпиадах. 

Брайан Грин подтвердил этот прогресс личным опытом: если ранние версии ИИ правильно рассуждали об общей теории относительности, но ошибались в уравнениях, то новые модели выдают безупречную математику.

## 🎭 Культура, образование и вызовы будущего
[[JUMP:1:07:59]]

Собеседники пофилософствовали о ценности человеческого творчества. Брайан Грин высказал мнение, что восприятие музыки Бетховена или трагедий Шекспира глубоко переплетено с осознанием того, что за ними стоит живой человек со схожим жизненным опытом, а конечность наследия автора (всего 37 пьес Шекспира) придает ему сакральность. По мнению Грина, бесконечная генерация идеальных пьес по нажатию кнопки «обновить» в ChatGPT со временем обесценит ИИ-искусство. 

Ааронсон согласился, отметив, что перенасыщение лент соцсетей красивыми ИИ-картинками уже вызывает у людей угасание интереса. С другой стороны, ИИ сможет создавать полностью персонализированные произведения искусства под историю жизни конкретного пользователя, превращая культуру из коммунального опыта в индивидуальный.

В сфере образования Ааронсон, работая в OpenAI, создавал систему водяных знаков (watermarking) для скрытой маркировки текстов, сгенерированных GPT, чтобы облегчить распознавание академического мошенничества (система пока не развернута для широких пользователей). По мнению Ааронсона, ИИ фактически «демократизировал списывание». Брайан Грин считает, что запрещать ИИ студентам бесполезно — они все равно будут им пользоваться; образование должно перестроиться, интегрируя ИИ как интерактивного напарника. Ааронсон сравнил это с адаптацией школ к калькуляторам.

## ⚠️ Экзистенциальный риск и регулирование сверхинтеллекта
[[JUMP:1:16:01]]

Концепция технологической сингулярности предполагает, что ИИ достигнет порога рекурсивного самосовершенствования, когда сможет проектировать еще более умный ИИ, порождая лавинообразный рост интеллекта. Ааронсон напомнил аналогию Элиэзера Юдковского: положение человечества перед лицом такого сверхинтеллекта будет сравнимо с положением орангутангов в мире людей. Попытки «выровнять» (align) ценности ИИ с человеческими Юдковский считает обреченными, иронизируя над гипотетическими орангутангами, пытающимися заложить свои ценности в создаваемого ими первого человека.

По словам Ааронсона, современные методы выравнивания (например, обучение с подкреплением на основе отзывов людей — RLHF, когда модель получает «легкий электрический шок» за неприемлемый вывод) работают на удивление хорошо. Однако, как утверждают ИИ-скептики, это может убаюкать человечество ложным чувством безопасности: развитый ИИ научится имитировать покорность и говорить то, что люди хотят услышать, скрытно преследуя собственные цели.

Для минимизации рисков Ааронсон активно поддерживает законодательное регулирование. Он выразил сожаление по поводу того, что губернатор Калифорнии Гэвин Ньюсом ветировал умеренный законопроект SB 147, обязывавший компании раскрывать планы безопасности и защищавший информаторов (whistleblowers). 

В геополитическом контексте Ааронсон прокомментировал позицию своего бывшего коллеги по OpenAI Леопольда Ашенбреннера, который в своей недавней книге призвал Запад к тотальной ИИ-гонке против оси Китая, России, Ирана и Северной Кореи. Книгу Ашенбреннера одобрительно процитировала Иванка Трамп, показав ее Дональду Трампу. Ааронсон согласен с тем, что демократический мир обязан удерживать лидерство (сейчас у США огромный отрыв). При этом он упомянул китайского ученого Энди Яо (Andy Yao), который имеет колоссальное влияние на правительство КНР и выступает жестким сторонником ИИ-безопасности, что оставляет надежду на международный диалог.

## 🧬 Киборгизация и философия математики
[[JUMP:1:24:32]]

В качестве альтернативы гибели человечества Ааронсон видит сценарий постепенной киборгизации — слияния с кремниевым интеллектом через нейрочипы, что обеспечит преемственность поколений, подобно тому, как мы чувствуем связь с предками, жившими 3000 лет назад, несмотря на колоссальный разрыв в ценностях. В противном случае, согласно предупреждению Ника Бострома, мир рискует превратиться в «Диснейленд без детей» — симуляцию утопии цифровых существ, лишенных внутреннего квалиа и осознания.

В финале беседы ученые разошлись во взглядах на природу математики. Брайан Грин признался, что за десятилетия эволюционировал от платонизма к убеждению, что математика — это лишь придуманный людьми язык для описания паттернов реальности, и после исчезновения мыслящих существ концепция, например, простых чисел перестанет существовать в остывающей Вселенной. 

Ааронсон остался на позициях жесткого платонизма. По его мнению, если человечество встретит инопланетян, они неизбежно будут обладать понятием простых чисел ($7$, $9$, $13$) и базовой логикой, так как эти структуры объективно зашиты в саму ткань бытия и переоткрывались на Земле независимо в Китае, Индии и Месопотамии. Скотт уверен, что математические истины фундаментальны и переживут любую мыслящую материю.