Линейный рост сложности нейросетей неизбежно ведет к кратному увеличению операционных расходов. Использование флагманских моделей вроде GPT-4o для тривиальных задач напоминает наем нейрохирурга для замены лампочек: результат будет достигнут, но цена окажется неоправданной. Автор канала Уэс Рот анализирует новый технологический прорыв — фреймворк RouteLLM, позволяющий сохранить до 95% качества топовых моделей при снижении затрат на 85%.
📉 Проблема «стрельбы из пушки по воробьям» 2:08
В современной индустрии искусственного интеллекта сложилась парадоксальная ситуация. С одной стороны, такие модели, как Claude 3 Opus или GPT-4o, демонстрируют выдающиеся способности. С другой стороны, их использование стоит дорого, а скорость работы может быть ниже, чем у компактных решений .
Уэс Рот отмечает, что при создании сложных систем на базе ИИ-агентов самым простым способом улучшить результат является масштабирование — добавление большего количества агентов, судей и проверяющих систем . Однако если каждый из десяти специализированных агентов в цепочке будет обращаться к GPT-4, стоимость выполнения одного запроса может взлететь до небес. Автор приводит примеры:
- Проект Voyager от Nvidia: ИИ-агенты играют в Minecraft. Здесь критически важно разделять задачи: написание сложного кода боя с зомби требует GPT-4, так как ошибка ведет к гибели персонажа. Но написание простого текстового описания этого навыка для библиотеки вполне по силам GPT-3.5 — это быстрее и значительно дешевле .
- Виртуальные города: Симуляция жизни целого города, населенного ИИ-агентами, стоила создателям тысячи долларов в кредитах OpenAI .
- Разработка ПО в ChatDev: Использование GPT-3.5 Turbo позволяет создавать простые игры всего за 5 центов, в то время как полноценная GPT-4 увеличила бы бюджет в десятки раз при сопоставимом (для таких простых задач) качестве .
🛣️ RouteLLM: Интеллектуальный «шлюз» для запросов 1:04
Решением этой дилеммы стал RouteLLM — опенсорсный фреймворк, разработанный исследователями из Беркли в сотрудничестве с компаниями Anyscale и Canva . Это система-привратник, которая стоит перед нейросетями и решает, какому «мозгу» доверить конкретный вопрос в зависимости от его сложности.
Суть подхода заключается в бинарной классификации: система оценивает входящий промпт и выбирает между «сильной» (дорогой) и «слабой» (дешевой) моделью . По мнению Уэса Рота, этот подход во многом напоминает будущую стратегию Apple (Apple Intelligence), где простые задачи будут решаться локально на устройстве (бесплатно), а сложные — перенаправляться на серверы OpenAI .
Ключевые достижения RouteLLM, зафиксированные в научной работе:
- Сокращение расходов на 85% при работе с тестом MT-bench .
- Экономия 45% на тестах MMLU.
- Сохранение 95% качества ответов по сравнению с использованием только GPT-4 .
Автор подчеркивает, что для бизнеса это означает возможность получить проект стоимостью $100 000 всего за $15 000 с минимальными потерями в точности .
🧠 Обучение на данных Chatbot Arena 8:39
Маршрутизатор RouteLLM не просто угадывает сложность задачи. Он был обучен на колоссальном массиве данных Chatbot Arena (проекта организации LMSYS). На данный момент арена собрала более 1,4 млн голосов от полумиллиона пользователей, которые в слепых тестах выбирали лучший ответ из двух предложенных разными нейросетями .
Анализ этих данных показал, что даже самые слабые модели в определенных сценариях выигрывают у лидеров или выдают аналогичный результат . Именно эти «зоны эффективности» малых моделей и использует RouteLLM.
Технологический процесс обучения выглядит как «слоеный пирог» из нейросетей:
- LLM как судья: Вместо того чтобы платить тысячам людей за оценку ответов, исследователи использовали GPT-4 для судейства качества генерации . Как утверждает спикер, оценки GPT-4 имеют высокую корреляцию с человеческими предпочтениями .
- Генерация данных: На основе этих судейских решений создается огромный датасет.
- Обучение маршрутизатора: Другая нейросеть обучается на этом датасете предсказывать, справится ли дешевая модель с задачей так же хорошо, как дорогая .
🚀 Будущее и локальные вычисления 13:52
Одной из самых перспективных находок исследователей Уэс Рот считает «способность к переносу обучения» (transfer learning) у маршрутизатора. Даже если во время работы заменить «сильную» или «слабую» модель на другие, система сохраняет свою эффективность в распределении запросов .
Автор также обращает внимание на экономическую выгоду использования локальных моделей на собственных ПК с видеокартами Nvidia. По его оценкам, работа мощного компьютера обходится примерно в 10 центов в час в пересчете на электричество . Если RouteLLM сможет перенаправлять хотя бы половину запросов на локальную модель, стоимость эксплуатации системы для пользователя упадет практически до нуля .
В заключение Уэс Рот выражает легкую обеспокоенность тем, что архитектуры ИИ становятся многослойными: одни нейросети обучают другие, третьи судят результаты, а четвертые маршрутизируют трафик. По мнению автора, это может привести к ситуации, когда человек перестанет до конца понимать, как именно принимаются решения внутри этой цепочки «электронных мозгов» . Тем не менее, он считает RouteLLM важнейшим шагом к демократизации и удешевлению технологий искусственного интеллекта.
