Как ARM делает ИИ доступным непосредственно на устройствах
На протяжении последних 30 лет архитектура Arm оставалась фундаментом для мобильной революции, пройдя путь от первых инвестиций Apple и внедрения в устройства Nokia до нынешнего доминирования в сегменте «умных» устройств. Сегодня фокус компании сместился на обеспечение работы ИИ непосредственно на конечном оборудовании (edge AI), минуя облачные вычисления. В беседе с ведущим подкаста Eye on AI Крейгом Смитом, старший вице-президент и генеральный менеджер направления клиентских решений Arm Крис Берги обсудил, как развитие аппаратного обеспечения меняет способы нашего взаимодействия с технологиями.
🧠 Архитектура V9 и вычисления на границе сети 8:06
Архитектура Arm V9, запущенная около пяти лет назад, стала ответом на растущие требования к безопасности, производительности и поддержке нейросетевых вычислений. По словам Берги, на сегодняшний день значительная часть смартфонов на базе iOS и Android уже использует процессоры V9, и этот процесс активно распространяется на другие рынки, включая центры обработки данных, автомобильную электронику и интернет вещей (IoT).
Ключевым преимуществом подхода Arm является развитие гетерогенных вычислений. В современных системах на чипе (SoC) задачи распределяются между CPU, GPU и специализированными нейронными процессорами (NPU). В отличие от необходимости использования узкоспециализированных языков программирования, таких как CUDA от NVIDIA, Arm стремится сохранить для разработчиков привычную модель программирования CPU, эффективно перенаправляя рабочие нагрузки на аппаратные ускорители в зависимости от требований системы.
📱 Почему ИИ должен уйти из облака на устройство? 17:55
По мнению Берги, перенос ИИ-вычислений непосредственно на пользовательские устройства — не просто техническая прихоть, а необходимость. Гость приводит три аргумента в пользу граничных вычислений:
- Надежность: Зависимость от облака создает проблемы при нестабильном интернет-соединении (например, в «мертвых зонах» на дорогах), что убивает пользовательский опыт.
- Конфиденциальность: Обработка данных локально на устройстве значительно повышает уровень защиты личной информации.
- Скорость отклика: Минимизация латентности критически важна для создания по-настоящему диалоговых, быстрых интерфейсов.
Берги сравнивает развитие взаимодействия с ИИ с приходом сенсорных экранов: когда технология становится настолько интуитивной, что отсутствие «ума» в устройстве начинает вызывать раздражение у пользователя.
🔋 Баланс между мощностью и энергоэффективностью 23:38
Одной из главных проблем остается энергопотребление и тепловыделение. Arm решает это с помощью концепции «больших и малых» ядер (big.LITTLE), позволяющей динамически переключать нагрузку: устройство использует минимум энергии, пока не обнаружит событие, требующее активации высокопроизводительных вычислительных элементов (например, распознавание лица в камере дверного звонка).
Гость подчеркивает, что главным «узким местом» сегодня является не столько вычислительная мощность, сколько объем оперативной памяти и пропускная способность. Индустрия движется в сторону уменьшения моделей при сохранении их производительности, что происходит, по оценкам Берги, темпами около 50% в год.
🤖 Будущее ИИ-интерфейсов и робототехника 43:01
Будущее взаимодействия с устройствами, по мнению Криса Берги, заключается в агентном подходе, когда программы сами выполняют сложные цепочки действий (например, настройка параметров системы или бронирование услуг), избавляя пользователя от необходимости кликать по множеству меню.
В области робототехники Arm делает ставку на интеграцию компьютерного зрения. Хотя полноценные гуманоидные роботы, по мнению Берги, пока остаются далекой перспективой из-за сложности механики, актуаторов и обслуживания в реальных условиях, уже сегодня технологии Arm позволяют создавать компактные решения с ИИ — например, носимые устройства, считывающие движения пальцев через датчики на запястье.
