Дженсен Хуанг: «Никто в здравом уме не стал бы основывать компанию, зная, насколько это больно»

Acquired 490 тыс. 1 ч 29 мин 6 мин 16.10.2023
Главное

В этом выпуске подкаста Acquired ведущие Бен Гилберт и Дэвид Розенталь встречаются с основателем и CEO NVIDIA Дженсеном Хуангом (Jensen Huang) в штаб-квартире компании. На момент записи NVIDIA оценивается в 1,1 триллиона долларов, занимая шестую строчку в списке самых дорогих компаний мира и находясь в эпицентре революции искусственного интеллекта. Разговор посвящен истории выживания компании, стратегическим решениям, которые привели к созданию CUDA, и философии управления, позволяющей NVIDIA сохранять лидерство на протяжении десятилетий.

🎲 Ва-банк 1997 года: Как ошибка в архитектуре едва не погубила NVIDIA 2:48

В 1997 году NVIDIA находилась в критической точке: у компании оставалось денег всего на несколько месяцев работы . После неудачных архитектурных решений в первых чипах NV1 и NV2, которые использовали кривые и текстурные карты вместо треугольников, компания была вынуждена пойти на радикальный шаг .

Дженсен Хуанг (Jensen Huang) вспоминает ключевые моменты этого кризиса:

Несмотря на то что Riva 128 поддерживала лишь 8 из 32 режимов смешивания DirectX, она стала хитом благодаря беспрецедентной скорости. NVIDIA сделала ставку на сегмент энтузиастов, понимая, что для 3D-графики производительность никогда не бывает избыточной .

🧠 Эволюция CUDA: Ставка на «универсальный аппроксиматор функций» 12:03

Путь NVIDIA к ИИ начался задолго до бума нейросетей. По словам Хуанга, создание CUDA (Compute Unified Device Architecture) было логическим продолжением идеи программируемых шейдеров .

Ключевые этапы развития платформы:

  1. Инвестиции вопреки рынку: Компания вложила около 10 000 человеко-лет в платформу еще до того, как возник массовый спрос на ускоренные вычисления .
  2. Эффект AlexNet: В 2012 году нейросеть AlexNet показала невероятную эффективность в компьютерном зрении. Хуанг отмечает, что это заставило его вернуться к первым принципам и осознать: глубокое обучение — это «универсальный аппроксиматор функций» .
  3. Демократизация суперкомпьютинга: CUDA нашла первых сторонников среди исследователей (Ян Лекун, Эндрю Ын, Джеффри Хинтон), так как позволила превратить обычные ПК в мощные вычислительные узлы .

Хуанг полагает, что успех глубокого обучения был предсказуем, если подходить к нему с позиции масштабируемости: если модель работает на малых данных, она станет только лучше при увеличении параметров и наборов данных .

⚡ Путь в дата-центры: Почему NVIDIA — это больше не видеокарты 34:35

Переход NVIDIA в сегмент дата-центров начался примерно 17 лет назад с попытки отделить вычисления от устройства отображения .

Дженсен Хуанг (Jensen Huang) выделяет три продукта, которые сформировали это направление:

По мнению Хуанга, роль CEO заключается в том, чтобы «заглядывать за угол» и позиционировать компанию рядом с возможностями, даже если их точное время появления неизвестно . Он сравнивает это с ожиданием под деревом: нужно быть достаточно близко, чтобы поймать падающее яблоко .

🤝 Покупка Mellanox: Как сетевые технологии стали ключом к большим языковым моделям 39:35

Одной из самых успешных сделок в истории технологий ведущие и гость называют приобретение Mellanox за 6,9 млрд долларов . Хуанг утверждает, что дата-центр отличается от обычного компьютера не процессором, а именно сетевой инфраструктурой .

Аргументы в пользу сделки:

🏢 Управление по-хуанговски: 40 прямых подчиненных и «миссия как босс» 27:18

Организационная структура NVIDIA вызывает удивление у бизнес-аналитиков: у Дженсена Хуанга более 40 прямых подчиненных . Он объясняет это сознательным отказом от военной иерархии в пользу архитектуры «вычислительного стека» .

Особенности управления в NVIDIA:

Хуанг подчеркивает, что лидеры в его компании удерживают свои позиции благодаря способности рассуждать и помогать другим, а не за счет доступа к секретным данным .

📈 Рынки с нулевой выручкой и стратегия «Сети сетей» 46:36

NVIDIA предпочитает работать на рынках, которых еще не существует — Хуанг называет их «Zero billion dollar markets» .

Примеры таких рынков:

Стратегическое преимущество NVIDIA, по мнению CEO, заключается в создании «сети сетей». Это не просто «ров» (moat) вокруг замка, а экосистема разработчиков и клиентов, которые достигают успеха вместе с платформой . Хуанг подчеркивает, что NVIDIA всегда была ориентирована на разработчиков: даже в 1993 году одним из первых сотрудников был специалист по связям с девелоперами .

🛡️ Будущее ИИ: Безопасность, рабочие места и бесконечные амбиции 1:00:28

Обсуждая риски ИИ, Хуанг выделяет три уровня безопасности: функциональную (в робототехнике и автопилотах), информационную (борьба с предвзятостью и ложью) и агентную (контроль над самостоятельно обучающимися системами) .

Позиция Хуанга по ключевым вопросам:

  1. Человек в контуре (Human in the loop): ИИ не должен обучаться и меняться бесконтрольно «в дикой природе». Модели должны проходить валидацию перед выпуском .
  2. Создание рабочих мест: Хуанг полагает, что ИИ создаст больше рабочих мест, чем уничтожит . По его мнению, рост продуктивности ведет к процветанию компании, что позволяет ей нанимать больше людей для реализации новых идей .
  3. Трансформация профессий: Работу потеряет не тот, кого заменит ИИ, а тот, кто не умеет пользоваться ИИ в конкуренции с другими людьми .

Хуанг проводит аналогию с законом Мура в интерпретации Майка Морица: удешевление вычислений открывает новые области экономики, делая рынок только больше .

🏔️ Обратная сторона успеха: Почему Дженсен Хуанг не стал бы основывать NVIDIA снова 1:20:11

В финале беседы Дженсен Хуанг (Jensen Huang) делает неожиданное признание: если бы он мог вернуться в 1993 год со всеми текущими знаниями, он не стал бы основывать компанию .

Его аргументы:

Несмотря на эти слова, Хуанг не собирается уходить на покой, утверждая, что по-прежнему получает огромное удовольствие от процесса и считает NVIDIA не просто чип-компанией, а «фабрикой по производству интеллекта» .

💬 Цитаты

«Если бы мы осознали боль и страдания... я не думаю, что кто-то в здравом уме стал бы основывать компанию.»

Дженсен Хуанг (Jensen Huang) 1:20:48

«Наша задача как CEO — заглядывать за угол и предвидеть, где когда-нибудь возникнет возможность.»

Дженсен Хуанг (Jensen Huang) 37:52

«Миссия — это босс. Мы соединяем лучшие навыки и команды для ее достижения, независимо от оргсхемы.»

Дженсен Хуанг (Jensen Huang) 30:10
👥 Спикеры
📚 Упомянутые книги
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Tape-out
Финальный этап проектирования интегральной схемы перед отправкой на производство.
Infiniband
Высокоскоростная сетевая технология, критически важная для связи процессоров при обучении больших ИИ-моделей.
Zero billion dollar market
Рынок, который в данный момент не приносит выручки, но в будущем может стать гигантским.
Universal function approximator
Математическая концепция, согласно которой нейросеть может аппроксимировать любую функцию при достаточном количестве параметров.
📊 Цифры
🗓 Хронология
  1. 1993 Основание компании NVIDIA.
  2. 1997 Выпуск Riva 128 — спасительного чипа, созданного без физических прототипов.
  3. 2006 Анонс архитектуры CUDA.
  4. 2012 Победа AlexNet в конкурсе ImageNet, доказавшая мощь GPU для нейросетей.
  5. 2015 Основание OpenAI; Хуанг позже лично доставил им первый суперкомпьютер DGX.
  6. 2019 Объявление о покупке компании Mellanox.
⚖️ Другая сторона
Стартапы и бизнес Nvidia Jensen Huang CUDA Mellanox Искусственный интеллект