Ведущий подкаста и исследователь технологий Дваркеш Патель кардинально пересмотрел свои прогнозы относительно сроков появления сверхинтеллекта: если раньше горизонт измерялся десятилетием, то теперь запуск процесса рекурсивного самосовершенствования искусственного интеллекта (RSI) представляется делом ближайших лет. По мнению автора, благодаря высокой проверяемости задач в машинном обучении и колоссальным темпам автоматизации исследовательского процесса, системы уровня ведущих исследователей в лабораториях могут появиться уже к 2028 году или даже раньше. В своем эссе Патель детально разбирает механику этого перехода, анализирует неизбежные узкие места и объясняет, почему цифровая революция в R&D с высокой вероятностью перерастет в технологическую сингулярность либо в мощнейший рывок прогресса.
🤖 ИИ уже ускоряет разработку ИИ: первые данные лабораторий 0:00
По признанию Дваркеша Пателя, еще недавно он оценивал дистанцию до появления сверхинтеллекта как минимум в большую часть десятилетия . Однако регулярные дискуссии с исследователями и анализ успехов ИИ в строго верифицируемых доменах заставили его радикально обновить свои взгляды: теперь он допускает, что модели сравняются с лучшими учеными-людьми в сфере ИИ-исследований всего через пару лет или даже месяцев . Автоматизация этого процесса способна сжать многолетний прогресс в один календарный год, сделав ИИ умнее лучших экспертов-людей во всех областях к 2030 году или даже раньше .
При этом речь идет не о гипотетическом будущем — ведущие лаборатории уже фиксируют драматическое ускорение за счет внедрения внутренних ИИ-агентов :
- Независимая аналитическая организация METR провела трехмесячный аудит внутри Anthropic и зафиксировала, что скорость прогресса лаборатории на четко очерченных задачах удвоилась (выросла в 2 раза) по сравнению с прошлым годом . Эксперты METR подчеркнули, что большая часть этого ускорения напрямую связана с масштабным использованием ИИ для R&D.
- Компания OpenAI сообщила, что топ-10% наиболее активных пользователей внутренних ИИ-агентов для написания кода среди ее исследователей увеличили потребление мощностей с 1 000 долларов в день на человека в начале лета до более чем 7 000 долларов в день к концу августа .
- Компания Anthropic раскрыла, что модель Claude теперь самостоятельно ведет 26% всех задач по R&D в области ИИ, в то время как еще в феврале этот показатель составлял менее 1% .
📐 Математика как модель будущего машинного обучения 2:03
Ключевым аргументом в пользу скорой автоматизации исследований Патель считает невероятный взрыв возможностей моделей в математике . Еще два года назад в интервью с главой Anthropic Дарио Амодеи ведущий интересовался, почему языковые модели не могут объединять разрозненные знания из разных сфер для генерации новых открытий . Сегодня в верифицируемых областях ИИ выполняет масштабный поиск и сопоставление гипотез, щелкая сложнейшие задачи как орехи :
- В 2023 году модели не могли надежно сложить четырехзначные числа .
- В 2024 году они с трудом справлялись с задачами школьных математических олимпиад .
- В 2025 году ИИ уже брали золотые медали на Международной математической олимпиаде (IMO) .
- Недавно модели начали решать открытые нишевые научные проблемы, а кульминацией стало решение проблемы тысячелетия (Millennium Prize problem) моделью OpenAI всего за 88 часов .
Патель цитирует Джона Стейнбека из романа «К востоку от Эдема»: «Падение богов имеет одну особенность: они не падают понемногу — они рушатся и разлетаются вдребезги» .
Философ Тоби Орд высказал критическое замечание: современные системы автоматизируют доказательства и находят контрпримеры, но пока нет свидетельств их способности задавать глубокие вопросы или открывать принципиально новые направления математики . Патель парирует этот тезис: система решила проблему тысячелетия, даже не обладая этими возвышенными навыками .
Более того, для машинного обучения решение конкретных задач неизмеримо важнее, чем для чистой математики . В математике ценятся концептуальные прорывы (топология, теория групп, декартовы координаты), а доказательство частных гипотез нужно лишь постольку, поскольку оно развивает теорию . В R&D искусственного интеллекта приоритеты обратные: лабораториям безразлична теория ради теории — им важно, делает ли алгоритмический рецепт обучение эффективнее, а модель умнее .
В качестве примера Патель приводит архитектуру трансформера (Transformer), ставшую основой современных LLM . Исследователь Шолто Дуглас в своих черновиках доказывает, что трансформер можно было создать на два года раньше публикации статьи 2017 года . Исследователь Крис Ола также отмечал, что архитектура была естественной комбинацией механизма внимания (attention) и остаточных связей (residual networks) . Ни один элемент не был тайной, но требовалось состыковать полдюжины известных идей через сотни мелких экспериментов . По мнению Пателя, этот рутинный перебор комбинаций и есть то, в чем современные модели превосходят людей: условный Claude 7 легко изобрел бы трансформер, получив задачу заставить механизм внимания работать лучше .
⏱️ Сроки автоматизации: почему перелом наступит к 2028 году 8:20
Медианный прогноз Пателя: автоматизированные агенты сравняются с лучшими учеными-людьми в создании ИИ к 2028 году (при условии, что лаборатории не замедлятся сами и не будут остановлены регуляторами) .
Логика автора строится на закономерности: везде, где возможно автоматически проверять ответы и организовывать тысячи раундов тренировки (спортивное программирование, верифицируемая математика), модели проходили путь от уровня хуже среднего человека до превосходства над мировыми лидерами всего за несколько лет . Хотя исследователи высокого класса славятся научной интуицией и умением делать ставки на годы вперед, глубокие модели демонстрируют феноменальное обобщение: алгоритм OpenAI не обучали на решении задач тысячелетия, он тренировался на тысячах простых примеров и сумел обобщить опыт на неизвестную задачу .
Вероятностная раскладка по срокам от Дваркеша Пателя:
- 2028 год (медиана): полная автоматизация ведущих R&D-исследователей .
- 2027 год (оптимистичный сценарий): ряд авторитетных исследователей из окружения автора ожидают победы ИИ над человеком в этой сфере уже в ближайшие 12 месяцев . Как подсчитала аналитик Аджейя Котра на базе отчета METR, прямое продление текущей скорости удвоения прогресса Anthropic математически ведет к сверхинтеллекту в течение одного года .
- После 2032 года (консервативный сценарий): Патель закладывает вероятность около 25% на то, что ключевые узкие места окажутся сложнее, чем ожидается .
⚡ Три фактора ускорения: быстрее, умнее и масштабнее 11:10
Когда ИИ заменит лучших разработчиков, скорость алгоритмического прогресса увеличится по трем базовым причинам :
- Скорость мышления: сегодняшние модели думают примерно в 10 раз быстрее людей и работают без перерывов на сон и выходные, выполняя за календарную неделю эквивалент 50 человеко-недель . Даже с учетом задержек на прогон экспериментов на «железе» выигрыш в темпах будет колоссальным .
- Плотность таланта: около 80% алгоритмического прогресса передовой лаборатории обеспечивают примерно 50 ключевых исследователей (не зря Марк Цукерберг платит сотни миллионов долларов за штучные таланты) . В автоматизированной компании каждый отдельный агент из сотен тысяч будет работать на уровне Ильи Суцкевера или Ноама Шазира .
- Масштабируемость параллельной работы: если рой агентов не сможет быстрее написать роман, то модульные технические задачи распараллеливаются идеально . Патель приводит пример формализации Великой теоремы Ферма совместными усилиями тысяч экземпляров Claude: задача разбивается на независимые блоки с локальной верификацией . R&D в области ИИ устроено аналогично: отдельные команды параллельно улучшают фильтрацию претрейна, проектируют среды обучения с подкреплением (RL) или оптимизируют ядра внимания .
💥 Сингулярность или «Искра»: сценарии взрыва интеллекта 14:24
Будет ли ускорение экспоненциальным до бесконечности? Патель выделяет две противоборствующие силы :
- С одной стороны, рекурсивное самосовершенствование делает исследователей умнее, быстрее и многочисленнее.
- С другой стороны, «простые идеи» быстро исчерпываются. Уже сейчас лабораториям приходится учетверять вычислительные мощности на исследования и удваивать штат ежегодно лишь для поддержания стабильного темпа прогресса .
В зависимости от баланса этих сил автор видит два равновероятных исхода (50 на 50) :
- Чисто программная сингулярность (Software-only singularity): способность находить идеи растет быстрее их исчерпания. За несколько месяцев рой создает все более совершенные версии самого себя вплоть до физических пределов кремниевых чипов .
- Сценарий «Искры» (The Spark): за один календарный год сжимается от трех до шести лет стандартного прогресса, после чего темпы упираются в необходимость строить новые фабрики и кластеры .
Даже сценарий «Искры» Патель называет ошеломляющим: это скачок, эквивалентный дистанции от GPT-3.5 до GPT-6 Astra всего за 12 месяцев . GPT-3.5 умела лишь сочинять стишки и автодополнять тривиальные функции Python, тогда как условная Astra создает видеоигры с нуля и штампует математические доказательства уровня Филдсовской премии .
Модель после такого рывка станет сверхчеловеческой во всех верифицируемых областях :
- Спроектирует чипы лучше архитекторов Nvidia .
- Обыграет топ-фонды вроде Citadel и Jane Street на финансовых рынках .
- При наличии дистанционного доступа к лаборатории синтезирует комнатный сверхпроводник быстрее всего человечества .
После первой вспышки «Искры» прогресс не остановится: ИИ поможет масштабировать физические вычислительные мощности (которые и без того растут втрое каждый год), оптимизируя топологию фабрик и управляя строительными роботами, сокращая путь до абсолютного сверхинтеллекта до нескольких лет вместо месяцев сингулярности .
🧠 Мета-обучение и выход за пределы дата-центров 17:21
Главное возражение скептиков: как модель, обученная в дата-центре на синтетических задачах, превзойдет человека в реальном мире — в бизнесе, юриспруденции или политике ?
Патель отвечает концепцией мета-обучения . Любой сложный навык требует не только фактов, но и общих когнитивных способностей: планирования, поиска информации, адаптации после ошибок и взаимодействия . В ходе RSI автоматизированные инженеры построят миллионы симуляций, превосходящих современные игры так же, как суперкар Bugatti превосходит конную повозку . Агенты пройдут через века моделируемой рыночной конкуренции в виртуальных экономиках , а также натренируются на ретроспективных проверках всей истории человечества :
- Сможет ли ИИ открыть общую теорию относительности, имея на входе только массив научных данных до 1700 года ?
- Сможет ли предсказать исход Карибского кризиса исключительно по газетным вырезкам до 1962 года ?
В качестве биологического доказательства автор приводит эволюцию человека . Естественный отбор использовал грубейший верификатор («передал ли ты свои гены?») в условиях охоты и собирательства на саванне . Эволюция не тренировала мозг писать книги, разрабатывать микропроцессоры или руководить государствами, но на выходе получился гибкий универсальный ученик . Если слепой отбор создал такой интеллект, то целенаправленная оптимизация в ИИ-лабораториях с проверкой переноса навыков зайдет неизмеримо дальше .
Что касается реального мира, Патель напоминает примеры Наполеона, громившего европейские армии в 27 лет, и Рокфеллера, владевшего крупнейшим НПЗ в 25 лет — выдающемуся интеллекту требуются месяцы, а не десятилетия практики . Будущий ИИ, получив задачу заменить CEO из списка Fortune 500, за первое утро прочитает всю внутреннюю почту, Slack и документы компании за всю ее историю, а к вечеру проведет параллельные собеседования с каждым сотрудником и клиентом, выйдя на пиковую эффективность в считаные дни .
🔬 Почему R&D в сфере ИИ поддается верификации 25:59
Многие считают науку об ИИ творческим процессом, но технически весь пайплайн раскладывается на три измеримых направления :
1. Предварительное обучение (Pretraining) 28:30
Базовая метрика — функция потерь (loss) на тестовой выборке — верифицируется мгновенно . Модель GPT-7 можно обучать с подкреплением находить алгоритмы, минимизирующие вычислительные затраты на обучение условной GPT-2 . Исследовательскую интуицию («research taste») также можно натренировать: создается среда, где агент должен предсказать, сработает ли архитектурный трюк со 100-миллионной модели на масштабе 10 миллиардов параметров . Патель отмечает, что компания Magic уже продемонстрировала предобучение модели уровня DeepSeek V4 Pro всего за половину вычислительного бюджета оригинальной GPT-3 (около $500 000 по текущим ценам) . Улучшение базовых моделей уменьшает их размер, а небольшие модели обучаются быстрее, что радикально сужает цикл итераций RSI .
2. Дообучение (Post-training) 32:04
Прогресс измеряется тремя понятными метриками:
- Сокращение вычислений и времени для достижения целевой точности в средах RL .
- Способность обучаться «на лету» в незнакомых средах (например, бенчмарк EdgeBench от ByteDance) .
- Прямые R&D-тесты: так, внутренний бенчмарк CoBench в Anthropic включает около 500 реальных инженерных задач, решенных сотрудниками за текущий год .
3. Эффективность инференса (Inference efficiency) 33:11
Максимально проверяемая область: коэффициент утилизации GPU, размер KV-кэша на токен, задержка (latency) и количество операций с плавающей запятой (FLOPs) на прямой проход замеряются аппаратно .
🛡️ Разбор ключевых контраргументов 33:59
Патель подробно останавливается на четырех фундаментальных барьерах, выдвигаемых критиками гипотезы RSI.
Барьер непрерывного обучения (Continual Learning) 33:59
Долгое время сам Дваркеш считал отсутствие долговременной памяти у моделей главным препятствием: как агент создаст AGI, если он начинает каждую сессию с чистого листа, словно ребенок с амнезией ?
Однако сейчас позиция автора изменилась: масштабирование контекстного окна (In-context learning) де-факто позволяет создавать рабочие сессии длиной в месяцы . Кроме того, сама задача создания алгоритма непрерывного обучения алгоритмически измерима . Патель приводит образную аналогию: современные модели решают проблемы тысячелетия, двигаясь по беговой дорожке колесом (сальто) и умудряясь не отставать от Усейна Болта; если они научатся бежать прямо — они будут еще быстрее, но они способны победить даже в текущем амплуа .
Проблема поиска новых парадигм 36:44
Скептики утверждают, что метрики привязаны к текущей парадигме предсказания следующего токена, а смену парадигм ИИ предугадать не сможет . Патель возражает: трансформер изобрели для улучшения показателей на старых тестах машинного перевода, а модели рассуждений тренировали на давно существовавших математических задачах . Внешние мета-метрики (решение задач тысячелетия, скорость открытия физических теорий) инвариантны к используемой архитектуре .
Дефицит данных 38:26
В совместном исследовании с Джерри Ханом из Принстона Патель выяснил, что за последние 6 лет качественная фильтрация и синтез данных дали втрое больше алгоритмического прироста в претрейне, чем модификации самих архитектур . Но подготовка данных — это тоже задача машинного обучения. Как признала команда DeepSeek, почти весь выигрыш в их последних моделях обеспечили автоматизированные фабрики синтетических сред и верифицируемых данных, управляемые самими моделями .
Нехватка вычислительных мощностей на эксперименты 39:58
В отличие от математика с ручкой и бумагой, исследователю ИИ нужны терафлопсы для проверки гипотез . Будет ли рою агентов хватать «железа»? Патель производит расчет: с учетом четырехкратного ежегодного роста кластеров, к концу 2027 года OpenAI сможет выделить 10 000 агентам объем мощностей, достаточный для того, чтобы каждый из них ежедневно запускал тренировочный прогон масштаба оригинальной GPT-3 . Для сравнения: обучение первого трансформера в 2017 году заняло 3 дня на 8 ускорителях P100 (сегодня это стоит $50) .
Кроме того, агенты смогут обменивать дешевый интеллектуальный труд на дорогой compute :
- Вместо слепого запуска огромных кластеров они будут вручную выверять миллионы микро-аблаций и читать логи каждого сгенерированного прогона .
- Перед масштабным запуском команда агентов может потратить субъективные десятилетия размышлений на идеальное планирование эксперимента .
- Они создадут более точные законы масштабирования (Scaling Laws): как создатели GPT-4 смогли предсказать потери финальной модели на базе прогонов с уменьшением вычислений в 10 000 раз, так и агенты научатся извлекать максимум информации из крошечных сетей . По меткому замечанию одного из коллег Пателя: «Боги на небесах должны подчиняться тем же фундаментальным законам, что и муравьи под ногами» .