Компания Arm представила платформу Lumex Compute Subsystem (CSS), которая предлагает комплексное решение для ускорения работы искусственного интеллекта (ИИ) на устройствах, таких как мобильные и потребительские гаджеты. Эта платформа сочетает в себе передовые архитектуры процессоров и графических процессоров, системные соединения и программные инструменты для повышения производительности и энергоэффективности.
Передовая архитектура процессоров с поддержкой SME2
В основе платформы Lumex CSS лежит кластер процессоров Armv9.3 C1, оснащенный блоками Scalable Matrix Extension 2 (SME2). Эти блоки обеспечивают до пяти раз более быструю обработку ИИ и трехкратное улучшение эффективности по сравнению с предыдущими поколениями. Кластер CPU включает конфигурации, такие как ядра C1-Ultra и C1-Pro, созданные для удовлетворения требований флагманских устройств. Микроархитектурные улучшения способствуют среднему повышению производительности на 30% и снижению энергопотребления на 12% для повседневных мобильных задач.
Графический процессор Mali G1-Ultra для улучшенной графики и ИИ
Графический процессор Mali G1-Ultra вводит возможности трассировки лучей нового поколения, предлагая двойное улучшение производительности трассировки лучей по сравнению с предыдущими мобильными графическими процессорами. Это обеспечивает высококачественный игровой и развлекательный опыт на мобильных устройствах. Кроме того, GPU демонстрирует 20%-ный прирост графической производительности по ключевым тестам и игровым приложениям, поддерживая как визуальную достоверность, так и эффективное использование энергии.
Масштабируемая системная связь и управление памятью
Платформа Lumex включает в себя SI L1 System Interconnect и MMU L1 System Memory Management Unit для поддержки требовательных ИИ и вычислительных задач. SI L1 Interconnect обладает усовершенствованным системным кешем (SLC) с уменьшением утечек на 71% по сравнению со стандартной RAM, минимизируя потребление энергии в режиме ожидания. MMU L1 обеспечивает безопасную и экономичную виртуализацию, масштабируясь на широкий спектр мобильных и потребительских устройств. Эти функции позволяют нескольким ИИ и приложениям работать одновременно без узких мест в производительности.
Инструменты для разработчиков и программная поддержка
Arm предлагает полный набор программных инструментов для разработчиков приложений на платформе Lumex. Библиотека KleidiAI, интегрированная с основными ИИ-фреймворками, такими как PyTorch ExecuTorch и Microsoft ONNX Runtime, предоставляет ускорение SME2 для ИИ-задач. Разработчики могут использовать телеметрию для анализа производительности, выявления узких мест и оптимизации алгоритмов. Поддержка RenderDoc и унифицированные инструменты наблюдения, такие как Vulkan counters, Streamline и Perfetto, позволяют проводить анализ рабочих нагрузок в реальном времени и настройку задержек. Благодаря надежной поддержке востребованных ИИ-фреймворков платформа упрощает разработчикам создание сложных ИИ-приложений для мобильных устройств.
Современная вычислительная платформа для реализаций 3nm
Платформа Lumex CSS функционирует как современная вычислительная платформа, включающая в себя готовые к производству дизайны CPU и GPU, оптимизированные для 3nm технологических узлов. Эти реализации доступны через множество фабрик, что позволяет партнерам добиваться конкурентных характеристик частоты, мощности и площади. Этот подход помогает обеспечить успешный переход на последние технологические узлы, поддерживая цели по производительности и энергоэффективности.
Расширенные ИИ-сценарии и отзывчивость
Увеличенные возможности обработки процессоров с поддержкой SME2 расширяют спектр ИИ-задач, которые могут выполняться непосредственно на устройстве. Приложения, такие как продвинутые естественно-языковые технологии, дополненная реальность, компьютерное зрение для распознавания изображений и генеративные аудиомодели, теперь могут работать с меньшей задержкой. Выполняя эти задачи локально, Lumex CSS снижает зависимость от облачных вычислений, улучшая отзывчивость и пользовательский опыт даже в условиях низкой пропускной способности или офлайн.
Энергоэффективность и термическая оптимизация
Платформа Lumex CSS включает встроенные механизмы для оптимизации использования энергии и управления тепловыделением. Power gating и динамическое масштабирование частоты позволяют системе регулировать обработку в зависимости от нагрузки, снижая ненужное энергопотребление. Эти улучшения обеспечивают возможность устройств поддерживать высокопроизводительную обработку ИИ и графики без перегрева или компрометации ресурса батареи, что критично для мобильных устройств и портативной потребительской электроники.
Долгосрочные преимущества производительности
Флагманские устройства, построенные на платформе Lumex CSS, прогнозируются достигать шестилетнего роста производительности с двухзначной инструкцией за цикл (IPC). Этот устойчивый рост позволяет устройствам справляться с все более сложными задачами со временем, продлевая их полезный срок службы без необходимости частой замены оборудования.
Влияние на мобильные и потребительские устройства
Сочетая высокопроизводительные возможности CPU и GPU с обширной поддержкой разработчиков, Lumex CSS переопределяет возможности мобильных и потребительских устройств. Производители могут более эффективно внедрять ИИ-приложения, сохраняя при этом отзывчивость, энергоэффективность и долговечность батареи. Это создает основу для более продвинутых смартфонов, планшетов и ПК следующего поколения, способных поддерживать все более сложное программное обеспечение.
Платформа Arm Lumex CSS уже здесь
Платформа Arm Lumex CSS представляет собой значительный шаг вперед в мобильных вычислениях, подчеркивая высокопроизводительную обработку ИИ, передовую графику, энергоэффективный дизайн и интеграцию с популярными ИИ-фреймворками, такими как Microsoft ONNX Runtime. С процессорами, поддерживающими SME2, графическим процессором Mali G1-Ultra и программным обеспечением для разработчиков, Lumex CSS предоставляет основу для устройств следующего поколения, способных предоставлять продвинутый опыт работы с ИИ без ущерба для эффективности или отзывчивости.
Интересно, как Lumex CSS повлияет на рынок смартфонов. Учитывая такие впечатляющие улучшения в производительности и энергоэффективности, возможно, мы увидим значительный скачок в возможностях мобильных устройств в ближайшие годы. Надеюсь, это действительно изменит правила игры.
Платформа кажется очень перспективной для разработчиков ИИ-приложений. Интеграция с популярными фреймворками и улучшенные инструменты для анализа производительности могут значительно упростить процесс разработки. Интересно было бы увидеть, как это скажется на реальных проектах.
Особенно радует внимание к энергоэффективности и уменьшению тепловыделения. Это действительно важно для портативных устройств, которым нужно долго работать без подзарядки. Надеюсь, что Lumex CSS вдохновит и другие компании на подобные инновации.