# Дженсен Хуанг: «ИИ — это промышленная революция по производству интеллекта» Источник: https://www.youtube.com/watch?v=bUrCR4jQQg8 Канал: Bg2 Pod Опубликовано: 13.10.2024 --- В новом выпуске подкаста BG2 инвесторы Билл Герли и Брэд Герстнер встретились с основателем и генеральным директором NVIDIA Дженсеном Хуангом в штаб-квартире компании. Разговор затронул фундаментальную трансформацию вычислительной техники, уникальность архитектурного подхода NVIDIA, проект Илона Маска xAI и то, почему нынешний бум искусственного интеллекта — это не «пузырь 2000 года», а начало новой промышленной революции. ## 📈 Новая эра: от программирования к машинному обучению [[JUMP:02:55]] Дженсен Хуанг утверждает, что сегодня мы наблюдаем самую высокую скорость технологических изменений в истории [02:55]. По его мнению, это стало возможным благодаря тому, что NVIDIA удалось снизить предельную стоимость вычислений в 100 000 раз за последние 10 лет [03:08]. Если бы индустрия следовала только закону Мура, прогресс составил бы лишь около 100 раз. Ключевые факторы этого ускорения, по словам Хуанга: * Переход от последовательных вычислений на CPU к ускоренным вычислениям на GPU [03:20]. * Изобретение новых архитектур, таких как тензорные ядра (tensor cores) [03:34]. * Разработка сверхскоростных систем памяти (HBM) и технологий связи между чипами (NVLink, InfiniBand) [03:47]. * Инновации на всех уровнях стека — от кремния до библиотек и алгоритмов [03:59]. Хуанг подчеркивает фундаментальный сдвиг: раньше программное обеспечение было статичным (скомпилированным и «запечатанным»), а развивалось только оборудование под ним. Сегодня весь стек — от железа до нейросетевых алгоритмов — растет и эволюционирует одновременно, создавая эффект сложного процента [05:05]. ## 🛡️ «Маховик» NVIDIA: почему конкурентам сложно догнать лидера [[JUMP:06:40]] Брэд Герстнер отметил, что многие инвесторы ошибочно воспринимают успех NVIDIA как создание «просто более быстрого чипа» [06:14]. Хуанг в ответ пояснил, что преимущество компании (её «ров») заключается не в количестве гигафлопсов, а в создании комплексного «маховика» машинного обучения [07:59]. Основные этапы этого маховика, которые ускоряет NVIDIA: 1. **Курирование данных:** Сегодня ИИ используется для того, чтобы отбирать и готовить данные для обучения другого ИИ [08:12]. 2. **Генерация синтетических данных:** Огромные объемы работы выполняются до начала фактического обучения [08:38]. 3. **Специализированные библиотеки:** Хуанг напомнил о существовании библиотек cuDNN, Optics, cuQuantum и Rapids, которые адаптируют алгоритмы под конкретные задачи [14:59]. По мнению Хуанга, преимущество NVIDIA сегодня больше, чем 3–4 года назад, потому что сложность систем стала комбинаторной [12:20]. Он сравнил подход компании с Intel: если Intel исторически фокусировалась на совершенстве каждого транзистора для последовательных задач, то NVIDIA ставит на параллельные вычисления, где важнее общая архитектура системы [13:01]. ## 🔄 Инференс и «след из бесплатного оборудования» [[JUMP:15:48]] Обсуждая вопрос о том, сохранит ли NVIDIA лидерство на этапе инференса (исполнения моделей), Хуанг заявил, что здесь преимущество компании будет даже выше, чем в обучении [16:14]. Его аргументы в пользу этого тезиса: * **Архитектурная совместимость:** Если модель обучена на NVIDIA, она гарантированно и эффективно будет работать на NVIDIA без дополнительных правок [16:42]. * **Экономический цикл:** Когда компании покупают новейшее оборудование (например, Blackwell) для обучения, их предыдущее поколение (Hopper) становится идеальной и практически «бесплатной» инфраструктурой для инференса [17:08]. * **Постоянное обновление ПО:** Благодаря оптимизации алгоритмов, старые чипы (например, архитектуры Volta или Ampere) начинают работать в 2–4 раза быстрее через несколько лет после покупки [18:02]. ## 🏭 Дата-центр как новый юнит вычислений [[JUMP:21:45]] Хуанг считает, что после 60 лет существования ИТ-индустрии весь вычислительный стек был изобретен заново [21:57]. Теперь единицей вычислений (unit of computing) является не чип, а целый дата-центр [22:37]. NVIDIA планирует выпускать новую архитектуру дата-центра каждый год, стремясь ежегодно увеличивать производительность в 2–3 раза при одновременном снижении стоимости и энергопотребления [23:03]. Хуанг советует клиентам не покупать всё оборудование сразу, а инвестировать ежегодно, чтобы усреднять стоимость и постоянно владеть самыми современными технологиями [23:15]. Относительно разработки собственных чипов (ASIC) такими гигантами, как Amazon (Trainium) или Google (TPU), Хуанг выразил спокойствие: * NVIDIA стремится быть «маркет-мейкером», а не просто бороться за долю рынка [27:27]. * Компания предоставляет прозрачную дорожную карту своим партнерам из облачных сервисов на годы вперед [29:12]. * Для стартапа выбор NVIDIA — это «онрамп» (въезд на трассу) в мир ИИ: один раз написав код под CUDA, разработчик может запускать его где угодно [28:32]. ## 📉 Опровержение теории «пузыря» и Cisco 2000 года [[JUMP:30:07]] Критики часто сравнивают нынешний рост NVIDIA с Cisco времен пузыря доткомов, утверждая, что рынок перенасыщен мощностями. Брэд Герстнер напомнил, что в начале 2023 года аналитики прогнозировали NVIDIA выручку в $26 млрд, а компания сделала $60 млрд [30:21]. Хуанг аргументирует отсутствие пузыря через «первые принципы»: 1. **Трансформация софта:** Весь существующий софт (Excel, Photoshop, AutoCAD), который создавался вручную, будет переписан с помощью машинного обучения [32:10]. 2. **Модернизация инфраструктуры:** В мире уже есть дата-центры стоимостью $1 трлн, построенные на CPU. Их необходимо заменить на GPU, так как закон Мура для CPU практически мертв [33:15]. 3. **ИИ-фабрики:** Появляется совершенно новый тип инфраструктуры для «цифровых сотрудников» (агентов), которой раньше не существовало. По оценке Хуанга, этот рынок может составить еще несколько триллионов долларов [36:30]. ## 🚀 19-дневный суперкомпьютер Илона Маска [[JUMP:46:42]] Одним из самых ярких моментов дискуссии стало обсуждение кластера Colossus от xAI. Илон Маск сумел построить массив из 100 000 GPU H100 в Мемфисе в кратчайшие сроки. Дженсен Хуанг назвал Маска «сверхчеловеком» в вопросах проектирования и строительства крупных систем [48:32]. Он подчеркнул уникальность этого достижения: * Обычно планирование такого суперкомпьютера занимает три года, а запуск — еще один год [50:41]. * Команда xAI и NVIDIA прошла путь от первой поставки оборудования до запуска обучения всего за **19 дней** [00:27]. * Для этого потребовалась работа 24/7, сложнейшая интеграция жидкостного охлаждения и огромного количества сетевых соединений [49:35]. Хуанг подтвердил, что эпоха кластеров на 200–300 тысяч GPU уже наступила [51:20]. В будущем он ожидает появления систем на миллионы GPU, хотя подчеркивает важность развития распределенных и федеративных вычислений [52:12]. ## 🧠 Strawberry (o1) и новая парадигма рассуждений [[JUMP:55:19]] Появление модели OpenAI o1 (Strawberry) знаменует переход к «масштабированию во время инференса» (inference-time reasoning) [56:09]. Теперь ИИ не просто выдает ответ мгновенно, а «думает» перед ответом. Хуанг считает это огромным прорывом: * Некоторые задачи требуют быстрого ответа, а некоторые — раздумий в течение ночи или недели [57:02]. * Цепочка рассуждений (chain of reasoning) может увеличить вычислительную сложность инференса в миллионы раз [58:35]. * В будущем пользователи будут платить за разное качество «интеллекта»: от моментальных реакций до глубоких исследований, проведенных моделью [57:41]. ## 🏢 Будущее труда: 50 000 сотрудников и 100 млн ИИ-агентов [[JUMP:1:00:54]] Хуанг надеется, что со временем NVIDIA станет компанией с 50 000 сотрудников, которым будут помогать 100 миллионов ИИ-ассистентов [1:01:15]. Эти агенты будут присутствовать в каждой группе, общаться в Slack-каналах с людьми и между собой, решая специализированные задачи — от проектирования чипов до написания кода [1:01:43]. Относительно страхов перед безработицей Хуанг высказал следующие тезисы: * ИИ автоматизирует задачи, а не целиком профессии [1:02:24]. * Повышение продуктивности компании ведет к росту бизнеса, что обычно влечет за собой *найм* новых людей для реализации новых идей, а не увольнения [1:03:07]. * В будущем каждый человек станет «генеральным директором» (CEO) для целого штата своих ИИ-агентов [1:07:39]. ## 🛡️ Безопасность и регулирование [[JUMP:1:08:20]] В вопросе безопасности Хуанг поддерживает оптимистичный взгляд: «Чтобы победить плохой ИИ, нужно сделать хороший ИИ еще лучше» [1:08:34]. Он отметил, что отрасль уже создала огромную систему сдержек: одни нейросети обучают другие, третьи — проверяют данные на галлюцинации, четвертые — служат «гардрайлами» (ограждениями) [1:09:42]. По мнению Хуанга, регулирование должно происходить на уровне приложений, а не на уровне самой технологии: * FDA (управление по продуктам и лекарствам) должно регулировать ИИ в медицине. * FAA (авиация) — ИИ в управлении самолетами [1:11:41]. * Универсальный «Галактический совет по ИИ» вряд ли будет эффективен, так как специфика каждой отрасли уникальна [1:12:19]. ## 👨‍💻 Личное: почему Дженсен не уходит на пенсию [[JUMP:1:17:14]] В конце встречи Хуанг признался, что не считает свою работу «всегда веселой» (fun), но он её глубоко любит [1:18:25]. У него около 60 прямых подчиненных, и он рассматривает их как лучших в мире экспертов, которыми он «управляет с помощью промптов» точно так же, как нейросетями [1:07:26]. Дженсен использует ИИ каждый день как тьютора, партнера по брейнштормингу и для проверки фактов в исследованиях [1:19:32]. Он уверен, что сейчас — самый значимый момент в его карьере, и он не хочет пропустить следующие 10 лет этой трансформации [1:20:40].