На фоне ускоряющегося темпа релизов в сфере искусственного интеллекта эксперты и разработчики все чаще переключают внимание с чистой «мощности» моделей на их эффективность. В новом выпуске подкаста Mixture of Experts ведущий Тим Хванг вместе с коллегами из IBM Technology обсудили, как индустрия переходит от гонки гигантских параметров к борьбе за снижение стоимости токенов, специализированным решениям для бизнеса и даже применению ИИ в освоении Луны.
📉 Новая эра эффективности: ценовые войны ИИ-гигантов 1:05
Рынок ИИ вошел в фазу, которую участники дискуссии назвали «сезоном обновлений». За короткий период Anthropic представила Claude Opus 5.5, а OpenAI выпустила GPT-6 в версиях Sol и Luna . Главным трендом этих релизов стала не столько новая функциональность, сколько радикальное повышение эффективности.
Мартин Кин отметил, что если раньше выход новой «граничной» (frontier) модели был мировым событием, то теперь это происходит каждые несколько недель . Основной упор сделан на снижение потребления токенов. Например, Claude Opus 5.5 демонстрирует производительность на уровне флагманских моделей предыдущего поколения (таких как Fable 5.1), но при значительно меньших затратах на вычисления . GPT-6 Sol также позиционируется как более экономичная версия предшественника 5.6 .
Каутар Эль Маграуи подчеркнула, что названия моделей начинают значить меньше, чем их практические характеристики:
- Способность работать дольше без потери контекста;
- Надежность использования внешних инструментов;
- Снижение затрат на инфраструктуру .
По мнению Каутар, конкуренция смещается от «интеллекта модели» к «интеллекту системы», где модель — лишь один из компонентов агента, обладающего памятью, доступом к коду и корпоративным системам .
Гейб Гудхарт высказал скептическое мнение относительно реальной стоимости этих технологий. Он предположил, что текущее снижение цен для потребителей может быть продиктовано не только технологическим прорывом, но и субсидиями от венчурного капитала . До тех пор, пока компании остаются частными, они могут позволить себе «гонку на выживание» по стоимости токенов, откладывая момент выхода на самоокупаемость.
⚡ Jev AI и концепция моделей «Системы 1» 11:10
Особое внимание эксперты уделили стартапу TypeSafe AI и их новой модели Jev. Созданная бывшим инженером OpenAI Диого Алмейдой, модель вызвала ажиотаж в сообществе (пост о релизе набрал 40 миллионов просмотров) . Разработчики называют Jev представителем нового класса — моделей «Системы 1».
Это название отсылает к книге Даниэля Канемана «Думай медленно… решай быстро» . Если традиционные LLM используют «Систему 2» (медленное, пошаговое рассуждение или Chain-of-Thought), то Jev оптимизирована для «Системы 1» — мгновенных, автоматических решений.
Основные отличия Jev от стандартных LLM:
- Отказ от генерации текста: Вместо того чтобы писать длинные предложения, модель сразу выдает структурированные данные («типизированные значения») .
- Параллелизм вместо последовательности: Модель не генерирует токены один за другим, а выдает вероятности решений параллельно, что идеально подходит для архитектуры GPU .
- Калибровка уверенности: Ключевой фишкой Jev является не просто предсказание, а точный «score» уверенности. Если модель говорит, что она уверена на 60%, это статистически подтверждается в долгосрочной перспективе .
Гейб Гудхарт пояснил, что такие модели решают классическую задачу классификации, от которой многие ушли в сторону LLM из-за удобства zero-shot обучения. Jev возвращает эффективность специализированных классификаторов, сохраняя мощь больших данных . Примеры работы впечатляют: в игре в «Википедию» (переход от одной темы к другой за минимальное число кликов) Jev находит путь так же эффективно, как топовые модели типа Astra или Fable, но делает это за субсекундные интервалы времени .
🌑 AI на службе космоса: проект IBM и NASA 29:29
Завершающей темой обсуждения стал релиз открытой фундаментальной модели для исследования Луны, разработанной IBM совместно с NASA . Это специализированная компьютерная модель, обученная на 2 миллионах снимков лунной поверхности.
Дэвид Закс признался, что поначалу задача «считать кратеры» показалась ему скучной, пока он не осознал научную значимость . Плотность кратеров служит своеобразными «космическими часами», позволяющими определить возраст поверхности Луны и даже Марса .
Преимущества лунной модели:
- Поиск ресурсов: Модель помогает идентифицировать залежи льда на полюсах, что критически важно для будущей колонизации .
- Универсальность: Вместо создания отдельного алгоритма для каждой задачи, ученые могут использовать одну базовую модель и дообучать её для разных целей (картографирование, поиск вулканических объектов) .
- Работа с данными: Эксперты отметили сложность «инженерии данных» в космосе — модель должна уметь сопоставлять снимки с разным разрешением и углом освещения солнцем .
В финале эпизода Тим Хванг объявил о своем уходе с поста ведущего, передав бразды правления Дэвиду Заксу. Коллеги поблагодарили Тима за два года работы, отметив его талант делать сложные технические темы доступными для широкой аудитории .
