Мустафа Сулейман, один из пионеров современной индустрии искусственного интеллекта, сооснователь DeepMind и Inflection AI, а ныне руководитель ИИ-направления в Microsoft, обсуждает с партнером Greylock Сетом Розенбергом эволюцию технологий от «абсурдных» идей 2010 года до современных систем. В центре внимания — переход от гонки параметров к борьбе за качество данных, определение «практического» интеллекта и будущее, где ИИ превращается из чат-бота в автономного ассистента с памятью и характером.
🧠 От «абсурдной» идеи к фундаменту индустрии 1:20
В 2010 году, когда Мустафа Сулейман вместе с коллегами основал DeepMind, идея создания искусственного общего интеллекта (AGI) казалась большинству современников не просто невыполнимой, а абсурдной . В то время академические лаборатории не были готовы к масштабным инженерным проектам, а правительства не видели в этом приоритета .
По словам Мустафы Сулеймана, его мотивация всегда была прагматичной:
- Решение сложных системных проблем: Он считал, что мир стал слишком сложным для человеческого понимания — от продовольственных систем до финансов и экономики .
- Улучшение прогнозирования: ИИ виделся инструментом, способным делать точные предсказания в условиях неопределенности, что помогло бы людям жить лучше и здоровее .
- Предпринимательство как единственный путь: Сулейман пришел к выводу, что только формат стартапа обладает достаточной смелостью и гибкостью для реализации миссии такого масштаба .
📏 Как измерить интеллект: от теста Тьюринга к прибыли в $1 млн 4:51
Определение интеллекта долгое время оставалось философским вопросом, но для DeepMind оно стало инженерной задачей. Третий сооснователь компании, Шейн Легг, определил интеллект как способность системы «демонстрировать хорошие результаты в широком спектре сред» .
Мустафа Сулейман предлагает критически пересмотреть классические метрики:
- Проблема теста Тьюринга: Современные системы уже способны вводить людей в заблуждение в ходе разговора, но это не делает их по-настоящему интеллектуальными в практическом смысле .
- «Современный тест Тьюринга»: Мустафа Сулейман утверждает, что настоящим мерилом станет способность ИИ выполнять сложные, абстрактные задачи в реальном мире .
- Критерий миллиона долларов: По прогнозу гостя, до конца текущего десятилетия появится система, способная самостоятельно придумать продукт, организовать его производство, наладить логистику, маркетинг и заработать на этом $1 млн прибыли .
Мустафа Сулейман считает, что на пути к AGI мы сначала увидим мощные специализированные системы с глубокой экспертизой (в медицине, праве, маркетинге), и только затем — универсальный интеллект, способный легко переключаться между этими ролями .
📉 Революция эффективности: Phi-3 и конец гонки параметров 8:46
Долгое время считалось, что возможности модели напрямую зависят от её размера. Однако Мустафа Сулейман указывает на переломный момент: Microsoft выпустила модель Phi-3, которая при размере всего 3,8 млрд параметров приближается по качеству к GPT-4 .
Ключевые технологические тренды по мнению гостя:
- Уменьшение размеров: Phi-3 в 100 раз меньше современных фронтирных моделей по затратам на инференс, что позволяет запускать её на обычном смартфоне или ноутбуке .
- Смена фокуса: Количество параметров перестало быть главным прокси-показателем способностей модели. Теперь на первое место выходит качество данных .
- Демократизация: Open-source модели отстают от проприетарных API всего на несколько месяцев или год, что полностью меняет ландшафт для разработчиков .
💎 Данные — это новая нефть (и новый барьер) 11:16
Если раньше основным методом было обучение с подкреплением на основе отзывов людей (RLHF), то сейчас индустрия переходит к обучению на основе отзывов ИИ (RLAIF).
Мустафа Сулейман делится опытом создания модели Pi (Inflection AI) и дает советы стартапам:
- Собственные «учителя»: Для Pi нанимали учителей (AI Teachers) исключительно с высшим образованием, которые проходили 20-часовое обучение и сложные тесты на логику и понимание текста .
- Жесткий отбор: Даже сотрудники самой команды разработчиков не всегда могли пройти тесты, которые предлагались будущим разметчикам данных .
- Создание рва (moat): Для стартапа критически важно владеть своим стеком тонкой настройки (fine-tuning) и собирать уникальные данные через интерфейс взаимодействия с пользователем .
По мнению Сулеймана, инвестировать в вычисления (compute) важно, но настоящая ценность для предпринимателя сегодня — в создании циклов сбора и фильтрации высококачественных данных .
🛡️ Опасность полной автономии и «узкие вены» действий 20:55
Мустафа Сулейман вводит три понятия для оценки ИИ: IQ (интеллект), EQ (эмоциональный интеллект) и AQ (Action Quotient — коэффициент действия) . Хотя индустрия стремится к созданию агентов, способных действовать, Сулейман предостерегает от излишнего оптимизма.
Его позиция по автономности:
- Риски бесконтрольности: Полная автономия (способность ИИ самостоятельно ставить цели, добывать ресурсы и планировать) опасна и должна регулироваться .
- «Узкие вены» автономии: Правильный подход — давать агенту ограниченные степени свободы в конкретных средах (например, вызов конкретного API для проверки реестра) .
- Проблема точности: Для простых текстов достаточно 80% точности, но для действий (бронирование ресторана, финансовые транзакции) требуется 99%+. Одна ошибка в цепочке из пяти действий делает всю систему бесполезной для потребителя .
Мустафа Сулейман полагает, что системы, способные на по-настоящему надежные последовательные действия, появятся через два года, когда вычислительные мощности для обучения вырастут еще на два порядка (уровень GPT-6) .
🚀 Будущее Microsoft: AI как «холст» жизни 31:49
В Microsoft Мустафа Сулейман курирует Bing, Edge и Co-pilot. Он считает, что мы движемся к моменту, когда искусственный интеллект станет «вторым пилотом», знающим о пользователе всё .
Перспективы интерфейсов:
- Голос как приоритет: В модели Pi 30% всех диалогов были голосовыми, и именно эти пользователи демонстрировали самое высокое удержание .
- Память и персонализация: ИИ должен помнить контекст, прошлые разговоры и личные данные пользователя, чтобы стать его полноценным помощником .
- Смерть традиционных приложений: В течение нескольких лет ИИ может поглотить привычные интерфейсы. Вместо того чтобы открывать текстовый редактор или браузер, пользователь будет просто давать команду ассистенту, который сам управляет «холстом активности» .
Мустафа Сулейман советует начинающим предпринимателям искать ниши, где «неточность является добродетелью» (например, креатив или генерация идей), и избегать областей с критически высокой ценой ошибки, пока технологии не достигнут нужного уровня прецизионности .
