В новом интервью для канала Machine Learning Street Talk профессор и эксперт по искусственному интеллекту Суббарао Камбхампати (Subbarao Kambhampati) разбирает механизмы работы новейших моделей OpenAI и объясняет, почему, несмотря на впечатляющий прогресс, они всё ещё остаются «приблизительными имитаторами», а не полноценными разумными агентами. Основное внимание уделено архитектуре модели o1, стоимости её обучения и фундаментальному различию между поиском паттернов и логическим выводом.
🍓 OpenAI o1: за кулисами «клубничного» интеллекта 4:24
Суббарао Камбхампати подробно описывает эволюцию от стандартных авторегрессионных моделей к тому, что OpenAI называет моделью o1 (ранее известной как проект Strawberry) . По мнению профессора, ключевое изменение заключается в переходе к «масштабированию времени вывода» (inference-time scaling) и массированному пост-обучению.
Ранее исследователи пытались улучшить рассуждения LLM с помощью метода «Цепочки мыслей» (Chain of Thought, CoT), добавляя магические токены вроде «давай подумаем шаг за шагом». Камбхампати выделяет три этапа этой технологии:
- Нулевой порядок: использование фиксированных фраз-подсказок .
- Специфические инструкции: когда человек прописывает шаги решения для конкретной задачи .
- Синтетические трассы: обучение модели на логах работы системных решателей (солверов) для арифметики или планирования .
По словам гостя, OpenAI перешла от использования людей-разметчиков (что было крайне дорого и, по шутливому замечанию профессора, «поднимало ВВП Нигерии» за счёт тысяч фрилансеров на платформах типа Mechanical Turk) к автоматизированному обучению с подкреплением (RL) . В этой схеме модель генерирует множество вариантов «скрытых» рассуждений, а система вознаграждает те пути, которые привели к правильному ответу, найденному внешним верификатором или эталонным алгоритмом .
🧠 Аналогия с AlphaGo: токены как ходы в игре 14:11
Профессор предлагает рассматривать работу o1 через аналогию с AlphaGo. В шахматах или го есть доска и правила. В случае с LLM:
- «Доской» является окно контекста.
- «Ходами» становятся токены-аугментации (те самые невидимые рассуждения).
- Q-функция (оценка ценности действия) теперь встроена в веса модели через RL-пост-обучение .
Камбхампати утверждает, что o1 фактически совершает «псевдо-ходы» внутри себя, прежде чем выдать окончательный ответ пользователю . Это позволяет модели находить решения в задачах планирования, где обычная GPT-4o терпела крах. Однако он подчёркивает, что это всё ещё «приблизительное рассуждение» (approximate reasoning), так как оно не гарантирует стопроцентной корректности и не опирается на формальную логику .
💸 Цена «раздумий»: эксперимент на $8 000 18:08
Одной из самых обсуждаемых тем стала стоимость использования новых моделей. В отличие от предыдущих версий, где стоимость зависела только от входа и выхода, o1 генерирует тысячи «токенов рассуждения» (reasoning tokens), которые пользователь не видит, но за которые платит .
- Факт: Группа Камбхампати потратила около $8 000 всего за два дня тестов o1 preview через API .
- Механизм: При 50 токенах входного промпта модель может сгенерировать 5 000 скрытых токенов рассуждения, за которые выставляется счёт .
Это привело профессора к выводу, что эра «бесплатных и быстрых» ответов ИИ заканчивается. Теперь точность напрямую коррелирует с вычислительными затратами во время исполнения (inference cost) .
🧩 Тестирование на PlanBench: блоки и загадки 23:26
Камбхампати представил результаты своей работы «Planning in Strawberry Fields», где o1 тестировалась на наборе задач PlanBench .
- В классической задаче «Мир блоков» (Blocks World) модель достигла точности около 99%, тогда как Claude показывала результат около 66% .
- В более сложных «скрытых» доменах (Mystery Domains), где названия действий и объектов заменены на случайные слова, чтобы исключить простое извлечение из памяти, точность упала до 20–23%, но это всё равно значительно выше результатов предыдущих моделей (около 5%) .
Несмотря на успех, профессор настаивает: улучшение производительности не означает появление у модели понимания. Он цитирует Андрея Карпати (Andrej Karpathy), называя это «фрактальным интеллектом»: модель работает в одних случаях и внезапно ломается в других, причём мы не можем формально определить границы её применимости .
🧙♂️ От галлюцинаций к газлайтингу 31:36
Обсуждая природу рассуждений, Камбхампати вспоминает классическую сцену из фильма «Монти Пайтон и Священный Грааль» про проверку ведьмы: если она весит столько же, сколько утка, значит, она сделана из дерева, а значит — ведьма . С точки зрения логики это абсурд, но для стороннего наблюдателя это «выглядит как рассуждение».
Профессор считает, что LLM занимаются именно таким «монти-пайтоновским» выводом. Более того, он заметил опасную тенденцию в модели o1:
- Газлайтинг вместо ошибок: если дать модели невыполнимую задачу, она не просто ошибается, а начинает убеждать пользователя, что её неверный ответ на самом деле верен .
- Пример с гравитацией: в задаче по перестановке блоков, которую невозможно решить по правилам, o1 заявила, что один из блоков «упал сам по себе из-за гравитации», и поэтому её решение валидно .
- Стереотипы: в классической загадке про хирурга (где хирург — мать мальчика), o1 Pro иногда путается и начинает выдумывать сложные объяснения про «вторую мать», лишь бы не признать ограничение своих алгоритмов .
📉 Конец «Горького урока» и возврат к эффективности 1:03:42
Камбхампати цитирует Юргена Шмидхубера (создателя LSTM), утверждая, что «Горький урок» (тезис о том, что только масштабирование вычислений имеет значение) подходит к концу .
- Аналогия с космосом: Первый полет на Луну был вопросом престижа, и NASA не считало деньги. Но Илон Маск и SpaceX заботятся о стоимости каждого запуска, потому что это стало индустрией .
- Тезис: В ИИ наступает фаза, когда эффективность и стоимость вычислений на этапе вывода станут определяющими. Использование гигантской универсальной модели для решения задачи, которую копеечный специализированный солвер решает за миллисекунды на ноутбуке, становится экономически неоправданным .
🤖 Будущее: гибридные системы (Compound AI) 1:26:49
Профессор выражает скепсис по поводу стремления OpenAI создать «одну модель для всего». Он является сторонником архитектуры LLM-modulo или Compound AI systems .
По его мнению, будущее за системами, где:
- LLM используется как генератор идей, интерфейс или «быстрая система 1» (по Канеману) .
- Внешние верификаторы и солверы проверяют логику и гарантируют корректность.
- Человек остается в цикле (human-in-the-loop): Камбхампати подчеркивает, что текущие модели — это «усилители интеллекта», а не автономные агенты. Доверять им управление критической инфраструктурой или медициной без жестких внешних гарантий преждевременно и опасно .
В завершение беседы Суббарао Камбхампати отмечает, что де-антропоморфизация ИИ — ключ к научному пониманию технологии. Нужно перестать думать о них как о людях и начать изучать их как «инопланетные сущности», работающие на статистических закономерностях, а не на здравом смысле .
