Дваркеш Патель: «Рекурсивное самосовершенствование ИИ уже началось»

Dwarkesh Patel 757 тыс. 44 мин 11 мин 13.11.2026
Главное

Ведущий подкаста и исследователь технологий Дваркеш Патель кардинально пересмотрел свои прогнозы относительно сроков появления сверхинтеллекта: если раньше горизонт измерялся десятилетием, то теперь запуск процесса рекурсивного самосовершенствования искусственного интеллекта (RSI) представляется делом ближайших лет. По мнению автора, благодаря высокой проверяемости задач в машинном обучении и колоссальным темпам автоматизации исследовательского процесса, системы уровня ведущих исследователей в лабораториях могут появиться уже к 2028 году или даже раньше. В своем эссе Патель детально разбирает механику этого перехода, анализирует неизбежные узкие места и объясняет, почему цифровая революция в R&D с высокой вероятностью перерастет в технологическую сингулярность либо в мощнейший рывок прогресса.

🤖 ИИ уже ускоряет разработку ИИ: первые данные лабораторий 0:00

По признанию Дваркеша Пателя, еще недавно он оценивал дистанцию до появления сверхинтеллекта как минимум в большую часть десятилетия . Однако регулярные дискуссии с исследователями и анализ успехов ИИ в строго верифицируемых доменах заставили его радикально обновить свои взгляды: теперь он допускает, что модели сравняются с лучшими учеными-людьми в сфере ИИ-исследований всего через пару лет или даже месяцев . Автоматизация этого процесса способна сжать многолетний прогресс в один календарный год, сделав ИИ умнее лучших экспертов-людей во всех областях к 2030 году или даже раньше .

При этом речь идет не о гипотетическом будущем — ведущие лаборатории уже фиксируют драматическое ускорение за счет внедрения внутренних ИИ-агентов :

📐 Математика как модель будущего машинного обучения 2:03

Ключевым аргументом в пользу скорой автоматизации исследований Патель считает невероятный взрыв возможностей моделей в математике . Еще два года назад в интервью с главой Anthropic Дарио Амодеи ведущий интересовался, почему языковые модели не могут объединять разрозненные знания из разных сфер для генерации новых открытий . Сегодня в верифицируемых областях ИИ выполняет масштабный поиск и сопоставление гипотез, щелкая сложнейшие задачи как орехи :

Патель цитирует Джона Стейнбека из романа «К востоку от Эдема»: «Падение богов имеет одну особенность: они не падают понемногу — они рушатся и разлетаются вдребезги» .

Философ Тоби Орд высказал критическое замечание: современные системы автоматизируют доказательства и находят контрпримеры, но пока нет свидетельств их способности задавать глубокие вопросы или открывать принципиально новые направления математики . Патель парирует этот тезис: система решила проблему тысячелетия, даже не обладая этими возвышенными навыками .

Более того, для машинного обучения решение конкретных задач неизмеримо важнее, чем для чистой математики . В математике ценятся концептуальные прорывы (топология, теория групп, декартовы координаты), а доказательство частных гипотез нужно лишь постольку, поскольку оно развивает теорию . В R&D искусственного интеллекта приоритеты обратные: лабораториям безразлична теория ради теории — им важно, делает ли алгоритмический рецепт обучение эффективнее, а модель умнее .

В качестве примера Патель приводит архитектуру трансформера (Transformer), ставшую основой современных LLM . Исследователь Шолто Дуглас в своих черновиках доказывает, что трансформер можно было создать на два года раньше публикации статьи 2017 года . Исследователь Крис Ола также отмечал, что архитектура была естественной комбинацией механизма внимания (attention) и остаточных связей (residual networks) . Ни один элемент не был тайной, но требовалось состыковать полдюжины известных идей через сотни мелких экспериментов . По мнению Пателя, этот рутинный перебор комбинаций и есть то, в чем современные модели превосходят людей: условный Claude 7 легко изобрел бы трансформер, получив задачу заставить механизм внимания работать лучше .

⏱️ Сроки автоматизации: почему перелом наступит к 2028 году 8:20

Медианный прогноз Пателя: автоматизированные агенты сравняются с лучшими учеными-людьми в создании ИИ к 2028 году (при условии, что лаборатории не замедлятся сами и не будут остановлены регуляторами) .

Логика автора строится на закономерности: везде, где возможно автоматически проверять ответы и организовывать тысячи раундов тренировки (спортивное программирование, верифицируемая математика), модели проходили путь от уровня хуже среднего человека до превосходства над мировыми лидерами всего за несколько лет . Хотя исследователи высокого класса славятся научной интуицией и умением делать ставки на годы вперед, глубокие модели демонстрируют феноменальное обобщение: алгоритм OpenAI не обучали на решении задач тысячелетия, он тренировался на тысячах простых примеров и сумел обобщить опыт на неизвестную задачу .

Вероятностная раскладка по срокам от Дваркеша Пателя:

⚡ Три фактора ускорения: быстрее, умнее и масштабнее 11:10

Когда ИИ заменит лучших разработчиков, скорость алгоритмического прогресса увеличится по трем базовым причинам :

  1. Скорость мышления: сегодняшние модели думают примерно в 10 раз быстрее людей и работают без перерывов на сон и выходные, выполняя за календарную неделю эквивалент 50 человеко-недель . Даже с учетом задержек на прогон экспериментов на «железе» выигрыш в темпах будет колоссальным .
  2. Плотность таланта: около 80% алгоритмического прогресса передовой лаборатории обеспечивают примерно 50 ключевых исследователей (не зря Марк Цукерберг платит сотни миллионов долларов за штучные таланты) . В автоматизированной компании каждый отдельный агент из сотен тысяч будет работать на уровне Ильи Суцкевера или Ноама Шазира .
  3. Масштабируемость параллельной работы: если рой агентов не сможет быстрее написать роман, то модульные технические задачи распараллеливаются идеально . Патель приводит пример формализации Великой теоремы Ферма совместными усилиями тысяч экземпляров Claude: задача разбивается на независимые блоки с локальной верификацией . R&D в области ИИ устроено аналогично: отдельные команды параллельно улучшают фильтрацию претрейна, проектируют среды обучения с подкреплением (RL) или оптимизируют ядра внимания .

💥 Сингулярность или «Искра»: сценарии взрыва интеллекта 14:24

Будет ли ускорение экспоненциальным до бесконечности? Патель выделяет две противоборствующие силы :

В зависимости от баланса этих сил автор видит два равновероятных исхода (50 на 50) :

Даже сценарий «Искры» Патель называет ошеломляющим: это скачок, эквивалентный дистанции от GPT-3.5 до GPT-6 Astra всего за 12 месяцев . GPT-3.5 умела лишь сочинять стишки и автодополнять тривиальные функции Python, тогда как условная Astra создает видеоигры с нуля и штампует математические доказательства уровня Филдсовской премии .

Модель после такого рывка станет сверхчеловеческой во всех верифицируемых областях :

После первой вспышки «Искры» прогресс не остановится: ИИ поможет масштабировать физические вычислительные мощности (которые и без того растут втрое каждый год), оптимизируя топологию фабрик и управляя строительными роботами, сокращая путь до абсолютного сверхинтеллекта до нескольких лет вместо месяцев сингулярности .

🧠 Мета-обучение и выход за пределы дата-центров 17:21

Главное возражение скептиков: как модель, обученная в дата-центре на синтетических задачах, превзойдет человека в реальном мире — в бизнесе, юриспруденции или политике ?

Патель отвечает концепцией мета-обучения . Любой сложный навык требует не только фактов, но и общих когнитивных способностей: планирования, поиска информации, адаптации после ошибок и взаимодействия . В ходе RSI автоматизированные инженеры построят миллионы симуляций, превосходящих современные игры так же, как суперкар Bugatti превосходит конную повозку . Агенты пройдут через века моделируемой рыночной конкуренции в виртуальных экономиках , а также натренируются на ретроспективных проверках всей истории человечества :

В качестве биологического доказательства автор приводит эволюцию человека . Естественный отбор использовал грубейший верификатор («передал ли ты свои гены?») в условиях охоты и собирательства на саванне . Эволюция не тренировала мозг писать книги, разрабатывать микропроцессоры или руководить государствами, но на выходе получился гибкий универсальный ученик . Если слепой отбор создал такой интеллект, то целенаправленная оптимизация в ИИ-лабораториях с проверкой переноса навыков зайдет неизмеримо дальше .

Что касается реального мира, Патель напоминает примеры Наполеона, громившего европейские армии в 27 лет, и Рокфеллера, владевшего крупнейшим НПЗ в 25 лет — выдающемуся интеллекту требуются месяцы, а не десятилетия практики . Будущий ИИ, получив задачу заменить CEO из списка Fortune 500, за первое утро прочитает всю внутреннюю почту, Slack и документы компании за всю ее историю, а к вечеру проведет параллельные собеседования с каждым сотрудником и клиентом, выйдя на пиковую эффективность в считаные дни .

🔬 Почему R&D в сфере ИИ поддается верификации 25:59

Многие считают науку об ИИ творческим процессом, но технически весь пайплайн раскладывается на три измеримых направления :

1. Предварительное обучение (Pretraining) 28:30

Базовая метрика — функция потерь (loss) на тестовой выборке — верифицируется мгновенно . Модель GPT-7 можно обучать с подкреплением находить алгоритмы, минимизирующие вычислительные затраты на обучение условной GPT-2 . Исследовательскую интуицию («research taste») также можно натренировать: создается среда, где агент должен предсказать, сработает ли архитектурный трюк со 100-миллионной модели на масштабе 10 миллиардов параметров . Патель отмечает, что компания Magic уже продемонстрировала предобучение модели уровня DeepSeek V4 Pro всего за половину вычислительного бюджета оригинальной GPT-3 (около $500 000 по текущим ценам) . Улучшение базовых моделей уменьшает их размер, а небольшие модели обучаются быстрее, что радикально сужает цикл итераций RSI .

2. Дообучение (Post-training) 32:04

Прогресс измеряется тремя понятными метриками:

3. Эффективность инференса (Inference efficiency) 33:11

Максимально проверяемая область: коэффициент утилизации GPU, размер KV-кэша на токен, задержка (latency) и количество операций с плавающей запятой (FLOPs) на прямой проход замеряются аппаратно .

🛡️ Разбор ключевых контраргументов 33:59

Патель подробно останавливается на четырех фундаментальных барьерах, выдвигаемых критиками гипотезы RSI.

Барьер непрерывного обучения (Continual Learning) 33:59

Долгое время сам Дваркеш считал отсутствие долговременной памяти у моделей главным препятствием: как агент создаст AGI, если он начинает каждую сессию с чистого листа, словно ребенок с амнезией ?

Однако сейчас позиция автора изменилась: масштабирование контекстного окна (In-context learning) де-факто позволяет создавать рабочие сессии длиной в месяцы . Кроме того, сама задача создания алгоритма непрерывного обучения алгоритмически измерима . Патель приводит образную аналогию: современные модели решают проблемы тысячелетия, двигаясь по беговой дорожке колесом (сальто) и умудряясь не отставать от Усейна Болта; если они научатся бежать прямо — они будут еще быстрее, но они способны победить даже в текущем амплуа .

Проблема поиска новых парадигм 36:44

Скептики утверждают, что метрики привязаны к текущей парадигме предсказания следующего токена, а смену парадигм ИИ предугадать не сможет . Патель возражает: трансформер изобрели для улучшения показателей на старых тестах машинного перевода, а модели рассуждений тренировали на давно существовавших математических задачах . Внешние мета-метрики (решение задач тысячелетия, скорость открытия физических теорий) инвариантны к используемой архитектуре .

Дефицит данных 38:26

В совместном исследовании с Джерри Ханом из Принстона Патель выяснил, что за последние 6 лет качественная фильтрация и синтез данных дали втрое больше алгоритмического прироста в претрейне, чем модификации самих архитектур . Но подготовка данных — это тоже задача машинного обучения. Как признала команда DeepSeek, почти весь выигрыш в их последних моделях обеспечили автоматизированные фабрики синтетических сред и верифицируемых данных, управляемые самими моделями .

Нехватка вычислительных мощностей на эксперименты 39:58

В отличие от математика с ручкой и бумагой, исследователю ИИ нужны терафлопсы для проверки гипотез . Будет ли рою агентов хватать «железа»? Патель производит расчет: с учетом четырехкратного ежегодного роста кластеров, к концу 2027 года OpenAI сможет выделить 10 000 агентам объем мощностей, достаточный для того, чтобы каждый из них ежедневно запускал тренировочный прогон масштаба оригинальной GPT-3 . Для сравнения: обучение первого трансформера в 2017 году заняло 3 дня на 8 ускорителях P100 (сегодня это стоит $50) .

Кроме того, агенты смогут обменивать дешевый интеллектуальный труд на дорогой compute :

💬 Цитаты

«Падение богов имеет одну особенность: они не падают понемногу — они рушатся и разлетаются вдребезги.»

Дваркеш Патель 03:17

«Если мы примем как факт, что ИИ удваивает темпы прогресса, это наивно подразумевает достижение экстремального сверхинтеллекта в течение года.»

Дваркеш Патель 10:35

«Боги на небесах должны подчиняться тем же фундаментальным законам, что и муравьи под ногами.»

Дваркеш Патель 43:46
👥 Спикер
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
RSI (Recursive Self-Improvement)
Рекурсивное самосовершенствование, процесс, при котором ИИ самостоятельно проектирует и улучшает следующие поколения алгоритмов.
Сингулярность только в софте (Software-only singularity)
Сценарий взрывного роста возможностей ИИ за счет оптимизации кода и алгоритмов на имеющихся чипах без наращивания аппаратной базы.
Эффективность по выборке (Sample efficiency)
Способность нейросети осваивать новый навык или знание на минимальном объеме обучающих данных.
In-context learning
Способность языковой модели учиться, адаптироваться и удерживать контекст задачи непосредственно внутри рабочего окна без изменения весов.
muP (Maximal Update Parametrization)
Метод параметризации нейросетей, позволяющий подбирать идеальные гиперпараметры на малых моделях и переносить их на огромные кластеры.
📊 Цифры
🗓 Хронология
  1. 2017 Публикация архитектуры Transformer командой исследователей Google
  2. 2023 Языковые модели демонстрируют неспособность надежно складывать четырехзначные числа
  3. 2025 ИИ-системы завоевывают золотые медали на Международной математической олимпиаде
  4. 2027 Возможная ранняя дата превосходства ИИ над человеком в алгоритмических исследованиях
  5. 2028 Медианный прогноз Пателя по полной автоматизации лучших ученых в сфере ИИ
  6. 2030 Ожидаемый рубеж появления сверхинтеллекта, превосходящего экспертов во всех сферах
⚖️ Другая сторона
Искусственный интеллект Дваркеш Патель OpenAI Anthropic DeepSeek рекурсивное самосовершенствование