Новая экономика ИИ: почему компании выбирают между токенами и людьми 💸 0:00
Корпоративный сектор столкнулся с беспрецедентной финансовой дилеммой: стремительный рост расходов на ИИ-инструменты заставляет бизнес делать выбор между внедрением передовых нейросетей и наймом новых сотрудников. CNBC обсудил этот «ресурсный компромисс» с руководителями компаний Glean и Factory AI, которые помогают бизнесу оптимизировать затраты на фоне истощения годовых бюджетов всего за пару месяцев.
⚖️ Токены против персонала: фундаментальный сдвиг в планировании 0:14
Впервые в истории технологий стоимость использования ИИ стала сопоставима с затратами на человеческие ресурсы. По словам CEO компании Glean Арвина Джейна, исторически технологии составляли лишь малую долю операционных расходов, но сейчас ситуация кардинально изменилась.
Ключевые факты и тренды:
- Компании стремительно сжигают годовые бюджеты на ИИ, иногда исчерпывая их за один-два месяца.
- Бюджеты на ИИ растут за счет сокращения планов по найму новых сотрудников.
- Арвин Джейн отмечает, что в 95% случаев предприятия до сих пор полагаются исключительно на «фронтирные» (самые мощные) модели.
- Стоимость топовых моделей от ведущих лабораторий в этом году выросла, что делает текущую модель потребления неустойчивой.
Матан Гринберг, глава Factory AI, называет это «задачей по распределению ресурсов», где люди выступают в роли параметров системы, а расходы на вычисления (токены) — в роли compute-мощностей для обучения.
🧠 Искусство маршрутизации: как сэкономить на ИИ 2:53
Оба эксперта сходятся во мнении: «умные» компании перестают выбирать одну лабораторию-поставщика. Вместо этого они внедряют уровень оркестрации (маршрутизации), который автоматически направляет запрос в зависимости от его сложности.
- Простые задачи: Направляются в компактные, быстрые и дешевые модели.
- Сложные задачи: Отправляются на обработку в мощные фронтирные модели.
Арвин Джейн заявляет, что применение такой модели в Glean позволило снизить затраты на токены на 30%. Более того, правильное структурирование данных перед отправкой запроса (сбор контекста) позволяет сократить использование токенов в два раза.
🌏 Геополитика и открытый исходный код 14:06
Несмотря на наличие эффективных моделей с открытым кодом, многие американские корпорации все еще опасаются использовать разработки китайских лабораторий, даже если те превосходят западные аналоги по соотношению «цена/качество». Тем не менее, Матан Гринберг считает это вынужденной мерой: при росте цен на проприетарные модели, бизнес неизбежно обратится к Open Source решениям, которые можно хостить на собственных мощностях.
🔮 Прогнозы и статус участников рынка 35:46
Ведущие игроки рынка по-прежнему удерживают лидерство, но конкуренция обостряется:
- OpenAI и Anthropic: Остаются на «фронтире» (переднем крае), однако столкнулись с давлением из-за стоимости использования.
- Google и XAI: По мнению Гринберга, к концу года эти компании вплотную приблизятся к лидерам по производительности.
- Оценка моделей: Гринберг назвал текущее доминирование модели Opus переоцененным (она часто используется там, где достаточно более простых инструментов), а достижения OpenAI, наоборот, — недооцененными на фоне текущего скептицизма.
Резюмируя дискуссию, авторы подчеркивают: мы находимся лишь в начале пути оптимизации. В долгосрочной перспективе, несмотря на краткосрочную турбулентность на рынке труда, ИИ должен позволить решить множество сложных задач, которые ранее оставались без внимания из-за нехватки человеческих или программных ресурсов.
