Джоэль Пино, одна из самых влиятельных фигур в мире искусственного интеллекта и Chief AI Officer в компании Cohere, делится своим видением будущего отрасли в беседе с Гарри Стеббингсом. После шести лет руководства фундаментальными исследованиями в Meta, Пино перешла в Cohere, чтобы сосредоточиться на практическом применении ИИ в бизнесе, утверждая, что эпоха «чистого» поиска ответов сменяется эпохой продуктивности и создания автономных агентов.
🧠 От фундаментальной науки к корпоративному ИИ 1:08
Джоэль Пино провела в Meta период с 2017 по 2024 год, который она называет временем трансформации ИИ . По её словам, научные гипотезы в этой области требуют времени для подтверждения: иногда нужны годы, чтобы правильный оптимизатор, вычислительные мощности и данные сошлись в одной точке и дали результат .
Сегодня индустрия обсуждает переход к «десятилетию агентов». Джоэль Пино отмечает, что хотя обучение с подкреплением (Reinforcement Learning, RL) существует десятилетиями, только сейчас оно стало центральной темой благодаря моделям рассуждения (reasoning models) . При этом она признаёт, что RL по-прежнему остается крайне неэффективным методом обучения.
Основные проблемы эффективности RL, по мнению Пино:
- Сложность последовательных решений: каждая ошибка в цепочке действий накапливается, что делает поиск правильного решения похожим на поиск иголки в стоге сена .
- Отсутствие статичности: в отличие от обычных LLM, агентов нельзя обучить только на статических данных; им нужен симулятор или среда для тестирования действий .
- Трудность формализации наград: если в шахматах или го правила и награды ясны , то научить ИИ «социальному поведению» или нюансам человеческого общения математически крайне сложно .
📈 Законы масштабирования: линейный рост против нелинейных прорывов 9:52
В индустрии ИИ не утихают споры о том, продолжат ли работать законы масштабирования (Scaling Laws). Джоэль Пино считает их «удивительно устойчивыми» и утверждает, что не стала бы делать ставку против них в ближайшем будущем . Однако она разделяет факторы прогресса на две категории:
- Линейные факторы (Количество): вычислительные мощности (compute) и объем данных. Чем больше ресурсов вы вкладываете, тем предсказуемее растет производительность .
- Нелинейные факторы (Алгоритмы): именно алгоритмические инновации, такие как архитектура Transformer или оптимизатор Adam, создают скачкообразные изменения парадигмы .
По мнению Джоэль Пино, алгоритмические инновации — самая сложная и творческая часть работы, так как исследователь никогда не знает заранее, какое направление окажется верным .
🏢 ИИ в энтерпрайзе: 10-кратный рост продуктивности 13:38
Одной из причин перехода в Cohere для Джоэль Пино стала возможность получать обратную связь от реального бизнеса. Она считает, что академические бенчмарки полезны, но только использование ИИ для продуктивной работы дает истинный сигнал о качестве модели .
Пино не согласна с тезисом о том, что ИИ должен заменить 5% «худших» сотрудников. По её мнению, более правильный показатель — способность сотрудника выполнять в 10 раз больше работы с помощью ИИ . Она считает такой рост продуктивности реалистичным в ближайшие пару лет для определенных задач .
Примеры сфер с потенциалом 10x-100x эффективности:
- Машинный перевод: переход от многочасовой работы человека к секундам обработки многостраничных документов .
- Дизайн и видеопроизводство: создание контента голливудского качества за часы вместо недель .
Главным барьером для внедрения ИИ в компаниях Пино называет «неоднозначность спецификаций» (ambiguity) . ИИ отлично справляется с задачами, где результат можно четко определить, но пасует перед нюансами и сложными человеческими процессами.
🛡️ Безопасность и «галлюцинации» агентов 22:02
С развитием ИИ-агентов открываются новые векторы угроз. Если для обычных LLM главной проблемой являются галлюцинации, то для агентов это имперсонация (присвоение чужой личности) . Агент может выдавать себя за сущность, которую он не представляет, и совершать действия от её имени (например, в банковских системах).
Пино выделяет несколько стратегий снижения рисков:
- Локальное развертывание (On-premise): Cohere делает на этом акцент, позволяя компаниям запускать модели внутри своего контура, полностью отрезав их от интернета .
- Стандартизация: правительства должны играть роль в определении стандартов безопасности, подобно тому, как это было сделано в авиации .
👥 Команда мечты: почему не стоит покупать только «звёзд» 28:15
В условиях «битвы за таланты», когда некоторые специалисты оцениваются в миллиарды долларов, Джоэль Пино предлагает более сбалансированный подход к найму. Она считает, что для успеха не нужно собирать команду исключительно из «Галактикос» (суперзвезд) .
Идеальная структура команды по версии Пино:
- Визионеры (1–3 человека): люди, понимающие, что именно нужно создать в пространстве инноваций .
- Мастера исполнения (Execution muscle): инженеры, которым не важно, чья это была идея; их цель — построить систему и провести эксперименты с технической строгостью .
- «Социальный клей»: люди, обеспечивающие взаимодействие в команде и понимающие нужды коллег .
Пино утверждает, что команда из одних суперзвезд без исполнителей и социальной связки часто оказывается неэффективной .
📊 Будущее данных: синтетика и «цифровой остров» 32:54
Данные становятся все более дорогими, так как простые задачи (распознавание кошек на фото) ИИ уже освоил. Теперь рынку нужны специалисты с глубоким пониманием бизнес-логики для подготовки специализированных наборов данных .
Обсуждая синтетические данные, Джоэль Пино предупреждает о риске деградации моделей . Если модели будут бесконечно учиться друг на друге, произойдет коллапс распределения из-за потери разнообразия. Она сравнивает это с группой людей на изолированном острове, где генетическое разнообразие неизбежно сокращается .
Однако в закрытых мирах (шахматы, программирование) синтетические данные работают отлично. Пино считает, что современная кодогенерация находится в той же стадии, что и генерация изображений в 2015 году: сейчас много «плохого» кода, но через 10 лет его качество станет превосходным . Роль программиста при этом сместится в сторону «главного куратора» и верификатора .
🧪 Научный оптимизм против «экзистенциального риска» 44:59
Как ученый, Джоэль Пино признается, что была неправа в прошлом, скептически относясь к тому, что нейронные сети станут универсальным решением для машинного обучения . Сейчас она убеждена, что метод обратного распространения ошибки и градиентный спуск — это фундаментально мощные инструменты .
При этом она выступает против использования термина «экзистенциальный риск» (existential risk). Пино считает, что этот buzzword следует запретить, так как он лишен научной строгости и основан на сценариях из научной фантастики, которые только пугают людей . Вместо этого она призывает сосредоточиться на прагматичных задачах: использовании ИИ для научных открытий и создании более эффективных моделей, способных работать на ограниченных ресурсах (1–2 GPU) .
Пино также жестко критикует стремление закрывать системы: «Закрывать доступ к идеям — это глубокая ошибка. Идеи должны циркулировать, это единственный способ стимулировать инновации» .
