🚀 Эпоха автономных агентов и законы масштабирования ИИ 0:07
Главный ученый Google Джефф Дин в беседе с партнером Y Combinator Дианой Ху обсудил эволюцию искусственного интеллекта, революцию в аппаратном обеспечении для инференса и то, как небольшие стартапы могут конкурировать с технологическими гигантами. По словам Дианы Ху, за прошедший год ИИ-модели достигли уровня квалифицированных младших инженеров, успешно справляясь с длительными агентными задачами. Джефф Дин отметил, что темпы роста сложности решаемых задач превзошли его ожидания, особенно за пределами программирования.
Главные тезисы обсуждения:
- Модели все лучше справляются с многоступенчатыми задачами и автоматизацией экспериментов.
- Инференс становится ключевым фактором, требующим специализированного и энергоэффективного «железа».
- Контекстная инженерия заменяет классическую дообученность моделей для конкретных задач.
⚡ Аппаратная революция: от поиска на жестких дисках до TPU и инференса 2:40
Вспоминания историю Google, Джефф Дин рассказал, как в 2001 году они с Санджеем Гемаватом поняли: весь поисковый индекс поместится в оперативной памяти. Переписав систему за несколько дней, они добились принципиального ускорения работы поиска. Аналогичный прорыв произошел в 2013 году, когда расчеты показали: трехмидневное использование голосового ввода каждым пользователем потребовало бы удвоения серверного парка Google.
Решением этой проблемы стал тензорный процессор TPU, оптимизированный под низкоточную плотную линейную алгебру. Новый чип оказался в 30–80 раз энергоэффективнее тогдашних CPU и GPU, обеспечивая при этом в 20–30 раз меньшую задержку. По мнению Джеффа Дина, в 2026 году фокус смещается на оптимизацию именно инференса, так как снижение задержки в десятки раз открывает совершенно новые сценарии для ИИ-агентов.
🤖 Долгосрочные агенты и искусство контекстной инженерии 4:38
Один из главных мифов, по мнению эксперта, заключается в том, что агенты способны работать лишь пару часов. Современные модели под управлением мощных систем способны выполнять сложные задачи на протяжении дней и недель, например, полностью переписывая масштабное ПО на другом языке программирования для повышения безопасности или производительности.
Специализация систем все больше смещается в сторону контекстной инженерии. В отличие от триллионов токенов обучающей выборки, запертых в весах модели, контекст предоставляет четкую и прозрачную информацию для конкретной задачи.
- Разработка навыков (skills) для агентов позволяет им эффективно использовать внутренние инструменты и логи.
- Опубликованный Google документ «Performance hints» стал основой для обучения моделей оптимизации кода.
- Использование многоагентных систем с взаимной оценкой результатов помогает избегать ошибок на длинных дистанциях.
💡 Где стартапам обыграть гигантов 25:21
Рассуждая о возможностях для небольших команд из двух-трех человек, Джефф Дин подчеркнул важность выбора правильной ниши. В то время как общие модели от Google стремятся покрыть любые задачи, стартапы могут сосредоточиться на глубокой специализации и создании уникального пользовательского опыта.
- Организация персональных данных пользователя, к которым у универсальных моделей нет доступа.
- Создание специализированных наукоемких моделей по аналогии с AlphaFold для биологии и материаловедения.
- Фокус на задачах, где базовые универсальные модели показывают нулевую или минимальную эффективность.
По мнению спикера, главным дефицитным навыком в эпоху полного написания кода агентами станет хорошее «вкусовое» видение и умение правильно формулировать задачи. Успех зависит от того, насколько точно основатель может описать спецификацию и выбрать по-настоящему значимую проблему для исследования.