Будущее, в котором ИИ строит сам себя: обзор стратегии Anthropic 3:55
Компания Anthropic опубликовала масштабный аналитический доклад, посвященный концепции рекурсивного самосовершенствования (RSI) искусственного интеллекта. По мнению ведущего Мэттью Бермана, этот документ раскрывает, как разработчики компании внедряют ИИ в собственные внутренние процессы, от написания кода до планирования исследований, и какие риски это несет для человечества. Главная мысль доклада заключается в том, что по мере делегирования разработки самим системам ИИ, роль человека становится все более абстрактной, смещаясь от непосредственного написания кода к его проверке и постановке целей.
🤖 Эволюция разработки: от чат-ботов к автономным агентам 12:14
В докладе Anthropic описывается стремительная трансформация рабочих процессов в компании за последние несколько лет:
- Начальный этап: Работа напоминала стандартный процесс в любой другой технологической компании — инженер писал код, который затем доставлялся пользователям.
- Эра чат-ботов: С появлением LLM взаимодействие с компьютером стало диалоговым, что ознаменовало начало «эры чат-ботов» в разработке.
- Эра агентов: На текущем этапе человек общается с системой, которая делегирует задачи агентам и под-агентам для написания кода и создания Claude.
Как отмечает Мэттью Берман, эта абстракция позволяет добиться масштабной параллелизации: один промпт человека приводит к генерации огромного объема кода. В конечном итоге, при достижении полного цикла рекурсивного самосовершенствования, единственным «бутылочным горлышком» системы останутся только вычислительные мощности.
📈 Темпы роста и «ускорение ускорения» 17:13
Авторы исследования фиксируют значительное ускорение производительности ИИ:
- Длина задач: Объем задач, которые ИИ-агенты выполняют самостоятельно, удваивается примерно каждые четыре месяца (ранее этот показатель составлял семь месяцев).
- Качество кода: К маю 2026 года более 80% кода, вливаемого в базу Anthropic, было написано моделью Claude. Для сравнения: до запуска «Claude Code» в феврале 2025 года этот показатель находился в пределах низких однозначных чисел.
- Скорость исследований: В экспериментах по оптимизации кода (переписывание для ускорения работы) модель Mythos показала прирост скорости в 52 раза по сравнению с результатами годичной давности.
По мнению Бермана, хотя 8-кратный рост объема кода на инженера может быть переоценен, этот скачок отчетливо демонстрирует переход к «агентной инженерии».
🧠 Критический барьер: «вкусовые качества» и суждения 28:46
Несмотря на успехи в написании кода, Anthropic признает наличие серьезных пробелов в способности моделей проявлять суждение:
- Проблема «вкуса»: ИИ пока не может самостоятельно определять, какие задачи действительно важно решать в следующем квартале или какие гипотезы достойны проверки.
- Новизна идей: Берман подчеркивает, что по определению модели, обучающиеся на существующих данных, могут выдавать лишь производные результаты, а не подлинно новые идеи.
- Человек как судья: Даже если ИИ-агенты пишут 80% кода, его критическая проверка остается обязанностью человека, либо — что является новым вызовом — другого ИИ, действующего в роли «судьи».
⚖️ Позиция Anthropic: риск «постоянного низшего класса» 1:08:28
В докладе рассматриваются три сценария развития событий: стагнация прогресса, массовый рост производительности при сохранении человека в цикле управления, и полное самосовершенствование ИИ. Берман обращает внимание на теорию «постоянного низшего класса»: если наступит эпоха полной автономности ИИ, общество может разделиться навсегда — на тех, кто владеет доступом к вычислительным мощностям, и тех, кто останется за бортом.
Интересно, что Anthropic в своем документе выступает за замедление гонки разработок, предлагая дать обществу время на адаптацию. Однако Мэттью Берман скептически относится к этому призыву, называя его «стратегическим маркетингом»: компания, находящаяся в авангарде гонки, предлагает замедлиться всем остальным, что фактически закрепляет её лидерство.
