Эпоха «после фронтира»: как Perplexity и Ollama меняют правила игры в индустрии ИИ 0:00
Индустрия искусственного интеллекта переживает фундаментальную смену парадигмы, переходя от простой гонки за размером моделей к эффективному управлению стоимостью, контролем и вычислительными мощностями. В этом «пост-фронтирном» мире сама по себе языковая модель больше не является полноценным продуктом — основная ценность смещается в сторону оркестрации, интеграции инструментов и использования моделей с открытыми весами. По мнению экспертов, именно гибкость, суверенитет над данными и оптимизация затрат станут определяющими факторами успеха для бизнеса в ближайшие годы.
🏗️ Конец эпохи «только фронтира»: почему важна оркестрация 3:33
До последнего времени рынок ИИ ориентировался на «табло результатов»: побеждал тот, кто выпускал самую большую и мощную модель. Однако сегодня компании, уже внедрившие ИИ в реальные рабочие процессы, пересматривают свои приоритеты.
- Реальность развертывания: Для бизнеса важнее не публичные бенчмарки, а реальная производительность, стоимость и безопасность данных.
- Пример DoorDash: Компания не стала полагаться на рекламные заявления разработчиков, а создала собственный тест для оценки качества ИИ-рецензирования кода на базе собственной кодовой базы. Результат показал, что ни одна универсальная модель не выигрывает во всём — лучшие результаты дает система из нескольких моделей, работающих под управлением специализированного оркестратора.
По словам Аравинда Сриниваса, модель — это лишь «упряжь» (harness) для агентов. Value для предприятия заключается в создании собственного цикла оценки (eval harness), который позволяет встроить экспертные знания компании непосредственно в систему, контролируя затраты и видя реальный ROI.
⚡ Интеллект на ватт: новая метрика эффективности 8:46
Аравинд Сринивас вводит понятие «ценности токена на ватт» (token value per watt) как критического параметра. Поскольку развитие дата-центров ограничено мощностями электросетей, для масштабирования необходимо максимально эффективно использовать каждый затраченный ватт энергии.
- Гибридные вычисления: Perplexity делает ставку на использование компактных, энергоэффективных моделей (например, GLM или Qwen) в качестве основных оркестраторов, которые «эскалируют» (передают) сложные задачи более мощным моделям-советчикам только тогда, когда это необходимо.
- Локальные вычисления: Аппаратные решения, такие как NVIDIA DGX Spark, позволяют объединить память CPU и GPU на одном устройстве, что радикально снижает энергопотребление и позволяет компаниям «демократизировать» использование мощного ИИ, не полагаясь только на облака.
🔓 «Открытый сжатие» и роль open-weights моделей 37:13
Питер Фентон прогнозирует, что в ближайшие 18–24 месяца (возможно, даже к концу текущего года) более 90% всех создаваемых токенов будут генерироваться моделями с открытыми весами.
- Экономическое давление: Модели с открытыми весами позволяют компаниям избежать наценок, которые устанавливают провайдеры проприетарных «фронтирных» моделей.
- Производительность: Главный аргумент в пользу open-source — не только цена, но и возможность тонкой настройки (fine-tuning) для конкретных задач, что дает снижение латентности и повышение точности.
Джефф Морган отмечает, что Ollama уже используется более чем 85% компаний из списка Fortune 500. Даже в высокорегулируемых отраслях, таких как медицина или энергетика, компании выбирают открытые модели, так как это дает возможность размещать ИИ непосредственно в своей инфраструктуре и полностью контролировать безопасность данных.
🛡️ Суверенитет данных как главный приоритет бизнеса 27:07
Участники дискуссии сошлись во мнении: отдавать свои уникальные данные и рабочие процессы на обучение внешним «фронтирным» моделям — стратегическая ошибка.
- Защита контекста: Propitiatory-данные являются главным конкурентным преимуществом компании. Передача этого контекста закрытым моделям может привести к потере интеллектуальной собственности.
- Переносимость: Switching-cost (затраты на смену модели) прямо зависят от того, насколько легко компания может «пересобрать» свой контекст. Владение весами модели и собственная инфраструктура обеспечивают необходимый уровень независимости.
