Рекурсивное самосовершенствование (RSI) — одна из самых обсуждаемых и, возможно, самых неверно истолкованных концепций в современном ИИ. Пока индустрия спорит о сроках достижения общего искусственного интеллекта (AGI), основатели стартапа MakerMaker.AI, Давал Аджода и Оуэн Хэ, работают над созданием систем, способных не просто автоматизировать рутину, а стать собственными «архитекторами». В беседе с генеральным партнером a16z Мартином Касадо они раскрывают, почему истинное RSI — это не просто ИИ, пишущий код для ИИ, и как замкнутый цикл оптимизации может привести к качественному скачку без экспоненциальных затрат ресурсов.
🧠 Что такое истинное RSI: от инструментов к замкнутому циклу 2:25
В современной индустрии термин RSI часто используется как маркетинговый ярлык. Мартин Касадо отмечает, что многие стартапы называют «самосовершенствованием» простую автоматизацию отдельных участков, например, использование ИИ для написания GPU-ядер . Однако гости проводят четкую границу между автокатализом и рекурсией.
- Автокатализ: Использование ИИ как инструмента (улучшение компьютеров с помощью компьютеров). Здесь «оптимизатором» остается человеческий мозг, который придумывает идеи, а ИИ лишь ускоряет их реализацию .
- Истинное RSI: Замена человеческого оптимизатора на саму модель. Это ситуация, когда «мозг» агента (LLM) становится объектом собственной оптимизации .
Давал Аджода подчеркивает: ключевое различие заключается в наличии «замкнутого цикла» (closed loop). В автокаталитических системах всегда есть разрыв, который заполняется человеческими ресурсами. В замкнутом цикле система сама переинвестирует свои когнитивные улучшения в дальнейшее развитие .
📉 Формула прогресса: числитель и знаменатель 5:10
Для оценки прогресса MakerMaker.AI используют математическую модель, где темп роста возможностей ИИ зависит от двух факторов:
- Числитель — Производительность: Насколько мощной становится система .
- Знаменатель — Затраты и сложность: Капитал, энергия и интеллектуальные усилия, необходимые для следующего шага .
В обычных технологических эпохах (например, во времена паровых двигателей) числитель был фиксированным, а сложность росла, что приводило к плато . В случае с RSI, если способность системы к улучшению коррелирует с её текущими возможностями, знаменатель и числитель могут компенсировать друг друга, обеспечивая постоянный темп прогресса при фиксированных ресурсах . Если же возможности растут быстрее сложности, возможен сценарий «экспоненциального взлета» (takeoff) .
👥 Гибридный подход: люди как часть системы 8:32
Несмотря на акцент на автоматизации, Оуэн Хэ поясняет, что их видение RSI не исключает человека. В системе MakerMaker.AI исследователи и инженеры рассматриваются как «специальные типы агентов» в рамках мультиагентной структуры .
Ключевые аспекты этого подхода:
- Оптимизация всего стека: Недостаточно улучшать только веса модели. Нужно оптимизировать промпты, оснастку (harness), алгоритмы и в конечном итоге — само оборудование (чипы) .
- Борьба с «бутылочными горлышками»: Любой компонент, который не включен в цикл оптимизации, со временем станет тормозом всей системы .
- Эффективность капитала: Команда внимательно следит за «бледербордом» (bleederboard) — внутренним рейтингом затрат на эксперименты, чтобы гарантировать, что прогресс достигается не просто за счет вливания денег .
🛠️ Практическое применение: от теории к инференсу 17:41
Вместо абстрактных исследований MakerMaker.AI сфокусировались на инференсе (выводе) . Это решение продиктовано как экономической важностью (весь мир хочет запускать модели дешевле и быстрее), так и близостью проблемы к самой сути ИИ.
Улучшение инференса создает двойной эффект:
- Модель начинает работать быстрее.
- Благодаря возросшей скорости, она может быстрее проводить циклы самосовершенствования .
Интересно, что система сама выбирает, какой элемент оптимизировать. Аджода утверждает, что они стараются быть максимально «hands-off» (не вмешиваться), позволяя агенту даже улучшать собственный «мастер-промпт» .
📊 «Вице-король вариативности» и проблемы измерения 24:00
На вопрос Касадо о том, является ли самосовершенствование лишь «верой», Давал отвечает категорично: «Это не вера, это происходит» . Команда уже наблюдает ранние признаки (glimmers) того, что системы начинают требовать меньше энергии для получения лучших результатов .
Однако главной сложностью остается верификация. В море «шумных» публикаций об RSI сложно отличить реальный прогресс от ошибок измерения. В компании даже существует должность «Вице-короля вариативности» — инженера, чья задача — разрушать собственные результаты, искать аномалии, «взлом наград» (reward hacking) и шум в данных .
Оуэн Хэ добавляет, что интеллект не является одномерной шкалой. В таких областях, как математика или программирование, где оценка результата дешева и мгновенна, RSI даст колоссальное ускорение. В областях, связанных с физическим миром (например, клинические испытания лекарств), прогресс все равно будет ограничен скоростью «движения атомов» .
🛸 Физические пределы и «шланг из Висконсина» 29:39
Обсуждая пределы роста, Давал Аджода напоминает о физических константах: скорости света и количестве частиц во Вселенной. Рано или поздно любая система упрется в «верхнюю границу вычислений» .
В завершение дискуссии спикеры делятся внутренней шуткой о «компании по производству садовых шлангов в Висконсине». Смысл аналогии в том, что если бы Эйнштейн не открыл теорию относительности, инженерам GPS пришлось бы вводить эмпирические «поправки», не понимая природы искажения пространства-времени . MakerMaker.AI стремятся найти фундаментальную «физику» самосовершенствования ИИ, которая скрыта за сложностью текущих рабочих процессов, и превратить эмпирические наблюдения в надежную инженерную дисциплину.
