# Шеф по ИИ в Cohere: почему законы масштабирования выстоят, а термин «экзистенциальный риск» пора запретить

Источник: https://www.youtube.com/watch?v=51y4KatMBFI
Канал: 20VC (Harry Stebbings)
Опубликовано: 03.11.2025

---

Джоэль Пино, одна из самых влиятельных фигур в мире искусственного интеллекта и Chief AI Officer в компании Cohere, делится своим видением будущего отрасли в беседе с Гарри Стеббингсом. После шести лет руководства фундаментальными исследованиями в Meta, Пино перешла в Cohere, чтобы сосредоточиться на практическом применении ИИ в бизнесе, утверждая, что эпоха «чистого» поиска ответов сменяется эпохой продуктивности и создания автономных агентов.

## 🧠 От фундаментальной науки к корпоративному ИИ
[[JUMP:01:08]]

Джоэль Пино провела в Meta период с 2017 по 2024 год, который она называет временем трансформации ИИ [01:21]. По её словам, научные гипотезы в этой области требуют времени для подтверждения: иногда нужны годы, чтобы правильный оптимизатор, вычислительные мощности и данные сошлись в одной точке и дали результат [01:45]. 

Сегодня индустрия обсуждает переход к «десятилетию агентов». Джоэль Пино отмечает, что хотя обучение с подкреплением (Reinforcement Learning, RL) существует десятилетиями, только сейчас оно стало центральной темой благодаря моделям рассуждения (reasoning models) [02:38]. При этом она признаёт, что RL по-прежнему остается крайне неэффективным методом обучения.

Основные проблемы эффективности RL, по мнению Пино:

*   **Сложность последовательных решений:** каждая ошибка в цепочке действий накапливается, что делает поиск правильного решения похожим на поиск иголки в стоге сена [04:25].
*   **Отсутствие статичности:** в отличие от обычных LLM, агентов нельзя обучить только на статических данных; им нужен симулятор или среда для тестирования действий [04:53].
*   **Трудность формализации наград:** если в шахматах или го правила и награды ясны [05:58], то научить ИИ «социальному поведению» или нюансам человеческого общения математически крайне сложно [06:25].

## 📈 Законы масштабирования: линейный рост против нелинейных прорывов
[[JUMP:09:52]]

В индустрии ИИ не утихают споры о том, продолжат ли работать законы масштабирования (Scaling Laws). Джоэль Пино считает их «удивительно устойчивыми» и утверждает, что не стала бы делать ставку против них в ближайшем будущем [12:04]. Однако она разделяет факторы прогресса на две категории:

1.  **Линейные факторы (Количество):** вычислительные мощности (compute) и объем данных. Чем больше ресурсов вы вкладываете, тем предсказуемее растет производительность [10:06].
2.  **Нелинейные факторы (Алгоритмы):** именно алгоритмические инновации, такие как архитектура Transformer или оптимизатор Adam, создают скачкообразные изменения парадигмы [10:33].

По мнению Джоэль Пино, алгоритмические инновации — самая сложная и творческая часть работы, так как исследователь никогда не знает заранее, какое направление окажется верным [12:59].

## 🏢 ИИ в энтерпрайзе: 10-кратный рост продуктивности
[[JUMP:13:38]]

Одной из причин перехода в Cohere для Джоэль Пино стала возможность получать обратную связь от реального бизнеса. Она считает, что академические бенчмарки полезны, но только использование ИИ для продуктивной работы дает истинный сигнал о качестве модели [14:17].

Пино не согласна с тезисом о том, что ИИ должен заменить 5% «худших» сотрудников. По её мнению, более правильный показатель — способность сотрудника выполнять в 10 раз больше работы с помощью ИИ [15:36]. Она считает такой рост продуктивности реалистичным в ближайшие пару лет для определенных задач [16:16].

Примеры сфер с потенциалом 10x-100x эффективности:

*   **Машинный перевод:** переход от многочасовой работы человека к секундам обработки многостраничных документов [16:43].
*   **Дизайн и видеопроизводство:** создание контента голливудского качества за часы вместо недель [16:30].

Главным барьером для внедрения ИИ в компаниях Пино называет «неоднозначность спецификаций» (ambiguity) [18:41]. ИИ отлично справляется с задачами, где результат можно четко определить, но пасует перед нюансами и сложными человеческими процессами.

## 🛡️ Безопасность и «галлюцинации» агентов
[[JUMP:22:02]]

С развитием ИИ-агентов открываются новые векторы угроз. Если для обычных LLM главной проблемой являются галлюцинации, то для агентов это **имперсонация** (присвоение чужой личности) [23:11]. Агент может выдавать себя за сущность, которую он не представляет, и совершать действия от её имени (например, в банковских системах).

Пино выделяет несколько стратегий снижения рисков:

*   **Локальное развертывание (On-premise):** Cohere делает на этом акцент, позволяя компаниям запускать модели внутри своего контура, полностью отрезав их от интернета [23:38].
*   **Стандартизация:** правительства должны играть роль в определении стандартов безопасности, подобно тому, как это было сделано в авиации [25:22]. 

## 👥 Команда мечты: почему не стоит покупать только «звёзд»
[[JUMP:28:15]]

В условиях «битвы за таланты», когда некоторые специалисты оцениваются в миллиарды долларов, Джоэль Пино предлагает более сбалансированный подход к найму. Она считает, что для успеха не нужно собирать команду исключительно из «Галактикос» (суперзвезд) [29:49].

Идеальная структура команды по версии Пино:

1.  **Визионеры (1–3 человека):** люди, понимающие, что именно нужно создать в пространстве инноваций [28:30].
2.  **Мастера исполнения (Execution muscle):** инженеры, которым не важно, чья это была идея; их цель — построить систему и провести эксперименты с технической строгостью [28:43].
3.  **«Социальный клей»:** люди, обеспечивающие взаимодействие в команде и понимающие нужды коллег [28:57].

Пино утверждает, что команда из одних суперзвезд без исполнителей и социальной связки часто оказывается неэффективной [29:36].

## 📊 Будущее данных: синтетика и «цифровой остров»
[[JUMP:32:54]]

Данные становятся все более дорогими, так как простые задачи (распознавание кошек на фото) ИИ уже освоил. Теперь рынку нужны специалисты с глубоким пониманием бизнес-логики для подготовки специализированных наборов данных [33:19].

Обсуждая синтетические данные, Джоэль Пино предупреждает о риске **деградации моделей** [36:40]. Если модели будут бесконечно учиться друг на друге, произойдет коллапс распределения из-за потери разнообразия. Она сравнивает это с группой людей на изолированном острове, где генетическое разнообразие неизбежно сокращается [37:18]. 

Однако в закрытых мирах (шахматы, программирование) синтетические данные работают отлично. Пино считает, что современная кодогенерация находится в той же стадии, что и генерация изображений в 2015 году: сейчас много «плохого» кода, но через 10 лет его качество станет превосходным [39:40]. Роль программиста при этом сместится в сторону «главного куратора» и верификатора [40:45].

## 🧪 Научный оптимизм против «экзистенциального риска»
[[JUMP:44:59]]

Как ученый, Джоэль Пино признается, что была неправа в прошлом, скептически относясь к тому, что нейронные сети станут универсальным решением для машинного обучения [43:54]. Сейчас она убеждена, что метод обратного распространения ошибки и градиентный спуск — это фундаментально мощные инструменты [44:47].

При этом она выступает против использования термина **«экзистенциальный риск»** (existential risk). Пино считает, что этот buzzword следует запретить, так как он лишен научной строгости и основан на сценариях из научной фантастики, которые только пугают людей [55:58]. Вместо этого она призывает сосредоточиться на прагматичных задачах: использовании ИИ для научных открытий и создании более эффективных моделей, способных работать на ограниченных ресурсах (1–2 GPU) [57:14].

Пино также жестко критикует стремление закрывать системы: «Закрывать доступ к идеям — это глубокая ошибка. Идеи должны циркулировать, это единственный способ стимулировать инновации» [58:04].