# Эйден Гомес из Cohere: «На прошлогодние ИИ-модели на рынке нет спроса» Источник: https://www.youtube.com/watch?v=FUGosOgiTeI Канал: 20VC with Harry Stebbings Опубликовано: 19.08.2024 --- Эйден Гомес — один из соавторов легендарной статьи «Attention Is All You Need», подарившей миру архитектуру трансформеров, на которой базируются ChatGPT и все современные нейросети. Сегодня он возглавляет компанию Cohere, одного из главных конкурентов OpenAI, фокусируясь на создании ИИ для корпоративного сектора [34:32]. В откровенном интервью Гарри Стеббингсу Гомес объясняет, почему «гонка вооружений» в области вычислительных мощностей — это тупиковый путь, как игры учат предпринимателей выживать и почему «галлюцинации» ИИ на самом деле не являются непреодолимой проблемой. ## 🎮 От гейминга в глуши до архитектуры трансформеров [[JUMP:00:41]] Детство Эйдена Гомеса прошло в сельской местности Онтарио, в доме, который его дед построил вручную [1:06]. Полное отсутствие скоростного интернета (только медленный dial-up) сформировало у него одержимость технологиями: он пытался понять, как заставить страницы грузиться быстрее, что и привело его в Computer Science [2:14]. По мнению Гомеса, увлечение видеоиграми в юности является сильным предиктором успеха для основателей стартапов [2:42]. Он выделяет несколько ключевых качеств, которые формирует гейминг: * **Устойчивость к «гринду»:** готовность выполнять повторяющуюся, сложную и иногда болезненную работу ради долгосрочной цели. * **Отношение к неудачам:** в отличие от многих культур, где ошибка может стоить репутации, игры учат, что можно «проиграть» и попробовать снова, с каждым разом ошибаясь чуть меньше [3:24]. Гомес вспоминает свою работу в Google Brain в 2017 году над статьей о трансформерах как чисто исследовательский проект. В то время он ожидал, что мир осознает значимость языкового моделирования гораздо быстрее, но «момент пробуждения» наступил только с выходом ChatGPT [21:04]. По его словам, магия случилась, когда технологию поместили непосредственно перед пользователем, избавив его от необходимости объяснять её суть [22:00]. ## 🧠 Экономика масштабирования: почему «умный» — не значит эффективный [[JUMP:04:42]] В индустрии ИИ существует консенсус: чем больше вычислительных мощностей (compute) и параметров, тем лучше модель. Гомес подтверждает, что это самый предсказуемый и «глупый» способ улучшения систем [4:55]. Однако он подчеркивает, что этот путь требует экспоненциальных вложений для получения линейного прироста интеллекта [6:29]. Ключевые тезисы Гомеса о рынке моделей: 1. **Смерть вчерашних моделей:** «На прошлогодние модели нет рынка», — утверждает гость. Технологический прогресс делает предыдущие поколения чипов и алгоритмов бесполезными слишком быстро [27:26]. 2. **Эрозия маржи:** Продажа чистых API-моделей превращается в низкомаржинальный бизнес из-за демпинга цен со стороны крупных игроков (OpenAI, Google) и раздачи бесплатных открытых моделей (Meta) [14:41]. 3. **Дистилляция:** По мнению Гомеса, нормой стал паттерн, когда разработчики прототипируют продукт на огромной дорогой модели, а затем «дистиллируют» эти знания в маленькую, дешевую и специализированную модель [7:49]. Гость полагает, что компании, которые только «масштабируют» модели без инноваций в данных, обречены стать «эффективными дочерними предприятиями» своих облачных провайдеров (Microsoft, AWS, Google) [8:29]. ## 🛠 Инновации в данных: конец эпохи «интернета на развес» [[JUMP:08:43]] Развитие ИИ упирается в дефицит качественных данных. Гомес утверждает, что интернет переполнен «мусором» и повторами, а модели достигли уровня, когда средний прохожий больше не может их ничему научить [24:34]. Cohere и другие лидеры рынка переходят к новым стратегиям: * **Синтетические данные:** создание данных самими моделями для обучения других моделей. Гомес считает, что это единственный способ масштабирования, когда человеческие знания исчерпаны [13:05]. * **Обучение рассуждению (Reasoning):** Эйден объясняет, что интернет содержит в основном *результаты* мышления, но не сам *процесс*. Чтобы научить ИИ рассуждать, нужно давать ему данные, где показана логика решения задачи, «работа над ошибками» и черновики [11:33]. * **Нишевые эксперты:** для обучения современных моделей теперь требуются не студенты, а доктора наук в узких областях — от квантовой физики до права [25:12]. Одной из важнейших технологий Гомес называет RAG (Retrieval-Augmented Generation) [40:28]. Это метод, при котором модель не просто генерирует ответ из «памяти», а обращается к внешней базе знаний (например, документам компании) и цитирует источники. По его словам, это радикально снижает уровень галлюцинаций, так как у модели появляется «справочный материал» [41:08]. ## 💼 Корпоративный ИИ: страхи, бюджеты и агенты [[JUMP:37:46]] Если 2023 год был для корпораций годом «пилотов» и экспериментов, то сейчас Гомес наблюдает переход к реальному внедрению в производство (production) [41:47]. Главным барьером остается доверие: компании боятся, что их интеллектуальная собственность попадет в общие тренировочные сеты [38:12]. Cohere решает эту проблему через частные развертывания (VPC), когда модель «приходит к данным», а не наоборот [38:37]. Гомес отмечает парадокс: финансовый сектор начинает уходить из облаков обратно в собственные дата-центры ради безопасности данных для ИИ, в то время как другие отрасли всё еще стремятся к миграции в облако [39:06]. Будущее корпоративного ИИ гость видит в **агентах** — системах, способных работать автономно на длительных горизонтах (месяцы), выполняя сложные задачи, такие как продажи или поиск кандидатов [44:24]. При этом он скептически относится к ИИ-обёрткам от гигантов вроде Microsoft Co-pilot, считая, что настоящие помощники должны быть агностиками и работать со всей экосистемой инструментов сразу (Salesforce, SAP, внутреннее ПО), а не только с Office [43:05]. ## 🤖 Общество и будущее: заменит ли ИИ людей? [[JUMP:50:00]] На опасения Гарри Стеббингса о том, что дети будут общаться с ИИ больше, чем с людьми, Гомес отвечает оптимистично. По его мнению, ИИ может стать «экстраординарно терпеливым, безопасным и эмпатичным учителем», который никогда не сорвется на ребенка [50:41]. Основные прогнозы Гомеса по рынку труда: * **Дополнение, а не замена:** ИИ сделает человечество более продуктивным. Гомес утверждает, что никто не захочет покупать что-то важное у бота — в бизнесе всегда будет нужен человек, несущий ответственность за сделку [51:47]. * **Тяжелые профессии:** ИИ в первую очередь должен забрать на себя психологически изматывающие роли, такие как модерация контента или первая линия техподдержки, где людей постоянно «оскорбляют и заставляют извиняться» [53:30]. * **Робототехника:** Эйден ожидает прорыва в создании дешевых и надежных гуманоидных роботов общего назначения в ближайшие 5–10 лет благодаря внедрению в них «планировщиков» на базе больших моделей [55:16]. В завершение беседы Гомес подчеркивает, что главным показателем успеха ИИ станет рост производительности. По его мнению, стагнация ВВП на душу населения ведет к социальным потрясениям, и ИИ — это инструмент, способный «увеличить общий пирог», сделав блага более доступными для всех [1:02:43].