Кришна Рангасайи: «Рынок Edge AI станет новой золотой лихорадкой»

Eye on AI 2,7 тыс. 50 мин 5 мин 04.09.2024
Главное

Развитие технологий искусственного интеллекта постепенно выходит за рамки гигантских облачных дата-центров, перемещаясь на конечные физические устройства. В новом выпуске подкаста Eye on AI основатель и генеральный директор стартапа SiMa.ai Кришна Рангасайи подробно описывает, почему периферийные вычисления (Edge AI) станут следующим главным драйвером технологического сектора. В центре дискуссии — история создания софтоцентричной платформы, призванной автоматизировать физический мир от робототехники до беспилотных аппаратов.

🛠️ От Кремниевой долины к собственному стартапу: история Кришны Рангасайи 0:52

Путь к созданию независимого полупроводникового стартапа занял у Кришны Рангасайи более 30 лет работы в индустрии микроэлектроники и программного обеспечения. Значительную часть своей карьеры — 18 лет — он провел в компании Xilinx, где занимал пост исполнительного вице-президента и генерального директора одного из ключевых подразделений. Опыт управления крупным бизнесом позволил ему детально изучить потребности рынка и ограничения существующих архитектур.

Идея основать собственный стартап родилась из наблюдения за диспропорцией в развитии ИИ-технологий. Пять лет назад сфера искусственного интеллекта переживала бурный рост в облачных сервисах и потребительских мобильных устройствах. При этом физический мир, окружающий человека — промышленная автоматизация, робототехника, медицинское оборудование и автомобильная индустрия, — по мнению Кришны Рангасайи, продолжал полагаться на архаичные и устаревшие технологические подходы.

Целью создания SiMa.ai стала разработка специализированной, целенаправленной платформы для масштабирования машинного обучения на рынке встраиваемых периферийных систем (embedded edge). Спустя пять с половиной лет развития стартап перешел от стадии проектирования к серийному выпуску чипов собственной архитектуры и сопутствующего программного обеспечения для разработчиков.

🧠 Архитектурная революция: почему SiMa.ai выбрала софтоцентричный подход 2:10

В отличие от рынка облачных вычислений, где ключевой задачей является изолированное ускорение работы нейросетей, на периферии возникает потребность в ускорении всего приложения целиком. Разработанный SiMa.ai чип представляет собой гетерогенную вычислительную платформу, объединяющую несколько типов процессоров на одном кристалле.

Архитектура решения включает в себя следующие элементы:

Такой подход позволяет на одном кремниевом кристалле размером с человеческий палец параллельно выполнять не только выводы ИИ-моделей, но и классическое компьютерное зрение, предварительную и последующую обработку данных, а также алгоритмы принятия решений и навигации.

При проектировании программной среды команда стартапа сознательно отказалась от архитектуры RISC-V, которую активно продвигает пионер индустрии Дэвид Паттерсон. По словам Кришны Рангасайи, несмотря на долгосрочные перспективы открытых инструкций RISC-V, для коммерческого успеха критически важна зрелая экосистема разработчиков ПО, поэтому выбор в пользу ARM на данном этапе оказался более прагматичным.

Главным конкурентным отличием от доминирующей на рынке ИИ-архитектуры Nvidia Cuda гость называет ставку на открытые стандарты. Исторически мир встраиваемых систем глубоко завязан на Linux и библиотеки компьютерного зрения OpenCL и OpenCV. Собственная программная среда SiMa.ai, получившая название Palette, выступает в роли своеобразного «острова Эллис». Она способна принимать ИИ-модели из любых популярных открытых фреймворков — PyTorch, TensorFlow или ONNX — и компилировать их в исполняемый микрокод без принудительного перевода разработчиков в закрытую проприетарную экосистему.

⚡ Edge AI как новая «золотая лихорадка»: три драйвера децентрализации 11:47

Рынок периферийного искусственного интеллекта, по оценке Кришны Рангасайи, станет следующей «золотой лихорадкой» в сфере высоких технологий. Глобальная база потенциальных заказчиков в этом сегменте насчитывает от 40 000 до 50 000 компаний. Несмотря на высокую географическую и отраслевую дисперсию, в совокупном объеме этот рынок способен превысить по масштабам облачный сектор вычислений.

Спикер выделяет три ключевых фактора, которые заставляют бизнес переносить ИИ-вычисления из облака на конечные устройства:

  1. Локальность и скорость отклика (Locality). В таких критических сценариях, как беспилотные автомобили или робототехника, на обнаружение пешехода и принятие решения уходят миллисекунды. Передача данных по сетям 5G в облако и обратно создает недопустимые задержки.
  2. Безопасность и конфиденциальность (Security and Privacy). С ростом популярности генеративного ИИ и больших языковых моделей (LLM) защита корпоративных данных становится приоритетом. Локальное исполнение гарантирует, что конфиденциальная информация не покинет периметр устройства.
  3. Совокупная стоимость владения (TCO) и монетизация. Постоянная аренда облачных мощностей обходится компаниям слишком дорого. Кроме того, локальная обработка позволяет бизнесу самостоятельно монетировать собственные данные, а не отдавать их сторонним провайдерам.

По прогнозу руководителя SiMa.ai, в ближайшие 20 лет ИТ-индустрия придет к гибридной модели, где для каждой архитектуры будет найден баланс между облачной и периферийной составляющими.

📈 Стратегия Давида против Голиафа: 16 нанометров, $270 млн инвестиций и партнерская сеть 19:24

На текущем этапе развития SiMa.ai уже сотрудничает с лидерами рынка, включая топ-5 компаний в сферах робототехники, оборонного сектора, аэрокосмической отрасли и автомобилестроения. Продукция стартапа находит применение в производстве беспилотных летательных аппаратов и дронов, где критически важно сочетание высокой автономности, минимального веса и жесткого лимита энергопотребления в пределах 5, 10 или 20 ватт.

Коммерческая стратегия стартапа во многом базируется на опыте управления рисками. При проектировании первого поколения чипов (Gen 1) руководство сознательно отказалось от гонки за самыми современными и дорогостоящими нанометровыми техпроцессами, выбрав проверенную 16-нанометровую технологию TSMC. Это позволило резко снизить стоимость разработки и производства фотошаблонов (масок). За счет софтоцентричной архитектуры чип Gen 1 смог показать десятикратное превосходство по эффективности в реальных приложениях по сравнению с продуктами конкурентов. Второе поколение чипов (Gen 2) разрабатывается на базе 6-нанометрового техпроцесса, что, по заявлениям компании, обеспечит двукратное увеличение производительности на ватт.

Операционная модель компании поддерживается в лаконичном состоянии:

Финансовую устойчивость SiMa.ai обеспечивают привлеченные инвестиции в размере $270 млн. В пуле инвесторов числятся такие крупные фонды и компании, как Fidelity, Delta Technologies, Amplify Partners, а также присоединившиеся в ходе расширения раунда Maverick и Point72.

🔮 Прогноз на будущее чипов: почему квантовые и нейроморфные компьютеры задерживаются 45:57

Оценивая долгосрочные перспективы индустрии и появление альтернативных вычислительных парадигм — квантовых чипов, нейроморфных процессоров или ДНК-компьютеров, — Кришна Рангасайи призывает к прагматизму. По его мнению, выбор архитектуры всегда диктуется возможностями масштабирования программного обеспечения, а не только физическими свойствами кремния. Сами по себе нейросети и математический аппарат ИИ не новы, однако их коммерческий взлет стал возможен только после достижения зрелости софта и аппаратной базы.

Гость отмечает, что в технологическом бизнесе существует тенденция к чрезмерно быстрому раздуванию хайпа вокруг новых концепций. По оценкам Рангасайи, путь от успешного лабораторного прототипа (proof point) до превращения технологии в массовый индустриальный стандарт почти всегда занимает на 10–15 лет больше времени, чем предполагают оптимистичные прогнозы.

Как считает глава SiMa.ai, в ближайшее decade (десятилетие) около 95–99% всех коммерческих внедрений в мире по-прежнему будут опираться на развитие известных сегодня полупроводниковых технологий. Альтернативные подходы смогут занять ощутимую долю рынка лишь на горизонте 20–30 лет.

💬 Цитаты

«Рынок периферийных устройств станет следующей золотой лихорадкой в сфере искусственного интеллекта.»

Кришна Рангасайи 12:01

«Главной ахиллесовой пятой индустрии остается программное обеспечение для искусственного интеллекта.»

Кришна Рангасайи 17:18
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
Edge AI (Периферийный ИИ)
Технология выполнения алгоритмов искусственного интеллекта непосредственно на конечных устройствах, а не в облачных дата-центрах.
Cuda
Проприетарная программно-аппаратная архитектура от Nvidia, ставшая стандартом для ускорения вычислений на GPU.
Гетерогенная платформа
Вычислительная система, использующая процессоры разных архитектурных типов для эффективного решения специализированных задач.
Техпроцесс (нанометры)
Технологический метод производства микросхем; меньший размер элементов обычно означает более высокую энергоэффективность.
📊 Цифры
🗓 Хронология
  1. За 18 лет до основания SiMa.ai Кришна Рангасайи начинает карьеру в Xilinx, где со временем становится топ-менеджером.
  2. За 5.5 лет до интервью Кришна Рангасайи основывает стартап SiMa.ai для разработки ИИ-чипов периферийного уровня.
  3. За 1.5 года до интервью SiMa.ai успешно запускает серийное производство первого поколения чипов на техпроцессе 16 нм.
  4. Период интервью Компания привлекает расширенный инвестраунд до $270 млн и анонсирует чипы второго поколения на 6 нм.
⚖️ Другая сторона
Искусственный интеллект SiMa.ai Кришна Рангасайи Edge AI Palette