В рамках курса Stanford CS153: Frontier Systems прошла лекция Анджни Мидхи (Anjney Midha), сооснователя компании AMP PBC и известного инвестора в сфере ИИ. Мидха представил системный взгляд на индустрию «передовых технологий» (frontier systems), объяснив, почему текущий момент в развитии ИИ можно сравнить с промышленной революцией и почему привычные экономические законы в мире вычислительных мощностей временно перестали работать.
🎓 Жизненные «законы масштабирования» и успех в ИИ 2:37
Анджни Мидха начал лекцию с личного обращения к студентам, подчеркнув, что помимо технических знаний, критически важны отношения и «человеческий капитал». Он отметил, что успех в индустрии часто зависит не от долгосрочного планирования, которое в условиях перемен затруднительно, а от умения окружать себя правильными людьми .
Ключевые тезисы Мидхи о личной стратегии:
- Эмпирический подход: Подобно тому как законы масштабирования в ИИ (scaling laws) являются эмпирическими, а не предсказательными, карьерный путь Мидхи строился на простых эвристиках: «просто развлекайтесь с людьми, которые вам нравятся» .
- Стенфордское комьюнити: Мидха рассказал, что встретил свою жену в Стенфорде , а обе свои компании (включая текущую Amp) основал вместе с бывшими соседями по комнате .
- Асимметричные ставки: В условиях доминирования крупных ИИ-лабораторий студентам и стартапам следует делать «асимметричные ставки» и заниматься вещами, которые не масштабируются внутри корпораций, — например, следовать своим уникальным одержимостям и интересам .
🏗️ Великий переход: полная пересборка технологического стека 9:53
По мнению Мидхи, последние 10–15 лет индустрия жила в условиях стабильного стека (капитал — ЦОДы — чипы — облако — приложения) . Однако появление ИИ запустило «Великий переход» (Great Transition), когда базовые предположения на каждом уровне стека пересматриваются .
Основные уровни «переходного» стека по Мидхе:
- Капитал: Гибкий ресурс, который сейчас массово перетекает в ИИ-инфраструктуру.
- Земля, энергия и оболочка (Land/Power/Shell): Строительство ЦОДов и генерация энергии становятся критическими узкими местами .
- Чипы: Основа вычислений, превратившаяся в дефицитный ресурс.
- Модели и агенты: Среда, где создается интеллект.
- Безопасность и управление: Финальный слой, обеспечивающий доверие к технологии .
Мидха утверждает, что сегодня каждое звено этой цепи пытается устранить «бутылочные горлышки» . Это создает беспрецедентные возможности для новых игроков, так как в периоды неопределенности старые системы проектируются заново .
🧠 Четыре фактора успеха: Контекст, Вычисления, Капитал и Культура 19:12
Мидха выделяет четыре столпа, на которых держится прогресс передовых систем. Особое внимание в лекции было уделено «Контексту» и «Вычислениям» (Compute).
Контекст и обратная связь RL 19:25
Лектор объяснил, что современный прогресс ИИ обусловлен не просто «магией», а индустриальным процессом, где обучение с подкреплением (Reinforcement Learning, RL) играет ключевую роль .
- Контекст как преимущество: Мидха считает, что в «войне контекстов» победят те команды, которые имеют уникальный и защищенный доступ к среде (context) .
- Верифицируемость: Прогресс идет быстрее там, где результат легко проверить (verifiability). Например, программирование (код либо работает, либо нет) или материаловедение .
- Битва за IDE: Мидха привел пример конфликта вокруг IDE Windsurf, когда Anthropic ограничила доступ к своим моделям для пользователей этой среды после новостей о возможной покупке проекта OpenAI . Это было сделано для предотвращения «утечки контекста» конкуренту .
Вычисления: Конец эпохи дешевых ресурсов 43:20
Основываясь на данных компании Amp, Мидха опроверг миф о том, что вычислительные мощности — это товар (commodity) с падающей ценой.
- Рост цен: За последние 90 дней цены на аренду чипов H100 (которым уже 2 года) не упали, а выросли . Мидха иронично сравнил торговцев чипами с наркодилерами из-за ажиотажного спроса: «Цена не проблема, нам нужны H100 прямо сейчас» .
- Прогнозируемость выручки: График корреляции между затратами Anthropic на вычисления и их выручкой показывает почти прямую зависимость . «Вложенный доллар в твердые активы превращается в доллар программной выручки, которая оценивается рынком в 10 раз дороже» .
📈 Исторические циклы и будущее вычислений 50:55
Мидха провел параллели между текущим дефицитом GPU и историческими циклами внедрения стали , железных дорог, электричества и оптоволокна .
По его словам, сейчас мы находимся в эре «до-стандартизации вычислений» .
- Нефунгибельность: В отличие от электричества, мегаватт которого одинаков везде, вычисления сегодня нефунгибельны. H100 отличается от B300, их нельзя легко заменить друг другом на лету .
- Трудность прогнозирования: Лабораториям крайне сложно предсказать свои потребности в мощностях, так как обучение моделей — это «взрывной» (spiky) процесс, а инференс (использование) — цикличный .
Для превращения вычислений в настоящий «коммодити» (общедоступный товар) необходимы два условия:
- Технические стандарты (аналоги ACDC или TCP/IP) .
- Общественные институты, которые будут обеспечивать соблюдение этих стандартов и перераспределять ресурсы от тех, кто их «складирует» (hoarding), к тем, кто создает общественное благо .
В завершение Мидха призвал студентов становиться активными участниками этого процесса, создавая новые стандарты и исследуя неизведанные фронтиры, такие как применение ИИ в науке и образовании (упомянув Гранта Сандерсона из проекта 3Blue1Brown как пример эталонного «вкуса» в техническом просвещении) .