Как стартап Baya Systems борется с «пробками» данных в ИИ-процессорах

Eye on AI 792 46 мин 4 мин 31.07.2025
Главное

Главным препятствием для развития искусственного интеллекта сегодня является не столько недостаток вычислительной мощности, сколько логистика данных внутри самих систем. Нандан Намбали, коммерческий директор стартапа Baya Systems, утверждает, что именно перемещение информации между процессором и памятью потребляет больше всего энергии и создает основные задержки.

🧠 От перфокарт к интуитивному ИИ: Эволюция взаимодействия 8:17

История вычислительной техники — это история упрощения интерфейса между человеком и машиной. По мнению Нандана Намбали, мы прошли путь от физического управления уровнями напряжения и перфокарт до современных диалоговых систем .

Основные вехи этого пути включают:

Намбали полагает, что конечной точкой этой траектории станет искусственный общий интеллект (AGI), способный самостоятельно проектировать следующие поколения более совершенных компьютеров .

🔌 Проблема «узкого места»: Куда уходит энергия 0:13

В современной архитектуре чипов для ИИ выделяются две стратегии: scale-up (укрупнение для работы с гигантскими моделями) и scale-out (копирование моделей для обслуживания множества запросов) . Оба подхода сталкиваются с одной и той же проблемой: затраты на перемещение данных превышают затраты на сами вычисления.

Нандан Намбали выделяет несколько типов процессоров, каждый из которых имеет свою специфику работы с данными :

  1. CPU (Центральные процессоры): ориентированы на управление потоком (control flow), требуют сложной и дорогой иерархии кэш-памяти.
  2. GPU (Графические процессоры): пропускают через себя огромные массивы данных для однотипных операций (data plane processing) .
  3. NPU (Нейронные процессоры): специализируются на матричном умножении, имитируя структуру нейросетей.

Baya Systems решает проблему этих «пробок», лицензируя технологию Network on Chip (NoC) . По словам Намбали, их транспортный слой позволяет повторно использовать логику и соединения, делая перемещение данных между ядрами и памятью более «умным» и эффективным .

🏗️ Чиплеты и закон Мура: Новая экономика полупроводников 5:40

Традиционный подход с созданием монолитных систем на кристалле (SoC) становится слишком дорогим. Намбали объясняет, что из-за физических дефектов на кремниевых пластинах («выход годных» или yield), производство одного огромного чипа рискованно: любая пылинка может сделать его бракованным .

Решением стал переход к чиплетам — модели «Lego-блоков» в микроэлектронике:

Хотя сейчас чиплеты чаще располагаются в одной плоскости на общей подложке, индустрия постепенно переходит к 3D-стекированию (накладыванию чипов друг на друга), что еще сильнее сокращает дистанцию для пробега электронов .

💡 Фотоника против меди: Будущее коммуникаций 12:36

Вопрос о том, заменит ли свет электричество внутри чипов, остается открытым. Намбали утверждает, что внутри самого кристалла медь по-прежнему вне конкуренции из-за дешевизны и простоты . Однако на границах чипов ситуация меняется.

Кремниевая фотоника (Silicon Photonics) становится актуальной при передаче данных между отдельными кристаллами или блоками серверов . Свет позволяет передавать информацию быстрее и с меньшим нагревом. Вместо оптоволоконных нитей в микросхемах используются специальные «волноводы» — каналы, вытравленные в слоях кремния и оксида, по которым движется лазерный луч .

Baya Systems выступает в этой схеме в роли «дорожной полиции» . Пока партнеры компании строят эффективные «широкие трубы» (фотонные каналы), Baya оптимизирует трафик, чтобы данные не создавали хаос при переходе из медной среды чипа в световую среду межсоединений.

🧠 Нейроморфные вычисления и «тёмный кремний» 41:43

Намбали, ранее работавший в компании Brainchip, считает нейроморфные чипы наиболее перспективными там, где критически важна энергоэффективность . В отличие от классических процессоров, которые постоянно «сжигают» энергию, нейроморфные системы имитируют мозг: они активируют только те «нейроны», которые необходимы в данный момент .

Это открывает путь к устройствам без батареек:

Однако главной проблемой остается софт. По мнению гостя, экосистема программного обеспечения для нейроморфных систем еще только формируется, и пока она не станет зрелой, такие чипы не станут массовыми . Намбали также упомянул концепцию «тёмного кремния» (dark silicon): современные чипы стали настолько горячими, что значительную их часть приходится держать выключенной, чтобы кристалл просто не расплавился .

💬 Цитаты

«Вычислительная мощность — не проблема, проблема в сети внутри чипа.»

Нандан Намбали 23:02

«Нейроморфные системы — это самый эффективный способ обработки интеллекта, потому что они активируют только те нейроны, которые нужны.»

Нандан Намбали 42:11
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
Network on Chip (NoC)
Технология связи между блоками внутри одного микрочипа, работающая по принципу компьютерной сети.
Чиплеты
Маленькие специализированные фрагменты чипа, которые объединяются в одном корпусе для создания более мощной системы.
Кремниевая фотоника
Технология передачи информации с помощью световых импульсов (фотонов) непосредственно через кремниевые компоненты.
Тёмный кремний
Области чипа, которые не могут быть запитаны одновременно из-за ограничений по тепловыделению.
📊 Цифры
🗓 Хронология
  1. 20 лет назад Переход от дискретных процессоров к системам на кристалле (SoC)
  2. 10 лет назад Замедление темпов масштабирования напряжения, вызвавшее проблемы с энергопотреблением
  3. 2024 Активное внедрение чиплетных архитектур и начало коммерциализации кремниевой фотоники
⚖️ Другая сторона
Технологии и IT Baya Systems Nandan Nayampally Silicon Photonics Chiplets Network on Chip