# Как стартап Baya Systems борется с «пробками» данных в ИИ-процессорах

Источник: https://www.youtube.com/watch?v=80MX9NvushQ
Канал: Eye on AI
Опубликовано: 31.07.2025

---

Главным препятствием для развития искусственного интеллекта сегодня является не столько недостаток вычислительной мощности, сколько логистика данных внутри самих систем. Нандан Намбали, коммерческий директор стартапа Baya Systems, утверждает, что именно перемещение информации между процессором и памятью потребляет больше всего энергии и создает основные задержки.

## 🧠 От перфокарт к интуитивному ИИ: Эволюция взаимодействия
[[JUMP:08:17]]

История вычислительной техники — это история упрощения интерфейса между человеком и машиной. По мнению Нандана Намбали, мы прошли путь от физического управления уровнями напряжения и перфокарт до современных диалоговых систем [08:56].

Основные вехи этого пути включают:

*   **Клавиатура и экран:** качественный скачок в удобстве ввода и вывода данных [09:10].
*   **Смартфоны:** интеграция вычислений в повседневную жизнь с использованием датчиков (камер, гироскопов) [09:50].
*   **Голосовые интерфейсы и AR/VR:** успех Amazon Alexa и очков дополненной реальности обусловлен тем, что они позволяют взаимодействовать с техникой более естественным образом [10:30].
*   **Генеративный ИИ (ChatGPT):** переход к полноценному интеллектуальному диалогу [11:10].

Намбали полагает, что конечной точкой этой траектории станет искусственный общий интеллект (AGI), способный самостоятельно проектировать следующие поколения более совершенных компьютеров [11:39].

## 🔌 Проблема «узкого места»: Куда уходит энергия
[[JUMP:00:13]]

В современной архитектуре чипов для ИИ выделяются две стратегии: *scale-up* (укрупнение для работы с гигантскими моделями) и *scale-out* (копирование моделей для обслуживания множества запросов) [04:34]. Оба подхода сталкиваются с одной и той же проблемой: затраты на перемещение данных превышают затраты на сами вычисления.

Нандан Намбали выделяет несколько типов процессоров, каждый из которых имеет свою специфику работы с данными [21:31]:

1.  **CPU (Центральные процессоры):** ориентированы на управление потоком (control flow), требуют сложной и дорогой иерархии кэш-памяти.
2.  **GPU (Графические процессоры):** пропускают через себя огромные массивы данных для однотипных операций (data plane processing) [22:10].
3.  **NPU (Нейронные процессоры):** специализируются на матричном умножении, имитируя структуру нейросетей.

Baya Systems решает проблему этих «пробок», лицензируя технологию *Network on Chip* (NoC) [02:40]. По словам Намбали, их транспортный слой позволяет повторно использовать логику и соединения, делая перемещение данных между ядрами и памятью более «умным» и эффективным [23:29].

## 🏗️ Чиплеты и закон Мура: Новая экономика полупроводников
[[JUMP:05:40]]

Традиционный подход с созданием монолитных систем на кристалле (SoC) становится слишком дорогим. Намбали объясняет, что из-за физических дефектов на кремниевых пластинах («выход годных» или yield), производство одного огромного чипа рискованно: любая пылинка может сделать его бракованным [07:13].

Решением стал переход к **чиплетам** — модели «Lego-блоков» в микроэлектронике:

*   **Повышение выхода годных:** маленькие компоненты реже содержат дефекты [07:26].
*   **Гибкость:** можно комбинировать лучший в своем классе CPU от одного производителя с лучшим ИИ-акселератором от другого в одной упаковке [07:52].
*   **Экономия:** второстепенные компоненты (например, блоки ввода-вывода) можно производить по старым дешевым техпроцессам, оставляя дорогую 3-нм литографию только для вычислительных ядер [37:56].

Хотя сейчас чиплеты чаще располагаются в одной плоскости на общей подложке, индустрия постепенно переходит к 3D-стекированию (накладыванию чипов друг на друга), что еще сильнее сокращает дистанцию для пробега электронов [38:50].

## 💡 Фотоника против меди: Будущее коммуникаций
[[JUMP:12:36]]

Вопрос о том, заменит ли свет электричество внутри чипов, остается открытым. Намбали утверждает, что внутри самого кристалла медь по-прежнему вне конкуренции из-за дешевизны и простоты [17:03]. Однако на границах чипов ситуация меняется.

**Кремниевая фотоника (Silicon Photonics)** становится актуальной при передаче данных между отдельными кристаллами или блоками серверов [13:15]. Свет позволяет передавать информацию быстрее и с меньшим нагревом. Вместо оптоволоконных нитей в микросхемах используются специальные «волноводы» — каналы, вытравленные в слоях кремния и оксида, по которым движется лазерный луч [20:08].

Baya Systems выступает в этой схеме в роли «дорожной полиции» [31:08]. Пока партнеры компании строят эффективные «широкие трубы» (фотонные каналы), Baya оптимизирует трафик, чтобы данные не создавали хаос при переходе из медной среды чипа в световую среду межсоединений.

## 🧠 Нейроморфные вычисления и «тёмный кремний»
[[JUMP:41:43]]

Намбали, ранее работавший в компании Brainchip, считает нейроморфные чипы наиболее перспективными там, где критически важна энергоэффективность [43:05]. В отличие от классических процессоров, которые постоянно «сжигают» энергию, нейроморфные системы имитируют мозг: они активируют только те «нейроны», которые необходимы в данный момент [42:11].

Это открывает путь к устройствам без батареек:

*   Кардиомониторы, работающие на химической энергии тела [43:19].
*   Умные часы, питающиеся от кинетической энергии движения [43:32].

Однако главной проблемой остается софт. По мнению гостя, экосистема программного обеспечения для нейроморфных систем еще только формируется, и пока она не станет зрелой, такие чипы не станут массовыми [43:57]. Намбали также упомянул концепцию «тёмного кремния» (dark silicon): современные чипы стали настолько горячими, что значительную их часть приходится держать выключенной, чтобы кристалл просто не расплавился [32:43].