沈建缘/文随着边缘AI工作负载的复杂性日益增加,大模型推理需要更高效的边缘设备,如智能摄像头实时识别、工业设备预测性维护等等。与此同时,MTE、PAC等安全特性可能成为物联网设备的“标配”,尤其在工业控制、关键基础设施领域,推动行业向更高安全等级演进。
基于物联网领域对AI转型需求的不断增长。2月27日,Arm发布Arm®v9边缘人工智能(AI)计算平台。
该平台以全新的ArmCortex®-A320CPU和边缘AI加速器ArmEthos™-U85NPU为核心,可支持运行超10亿参数的端侧AI模型。随着边缘AI在Arm平台上持续集成,这一全新产品的加入使Arm现已能为物联网提供最为先进的Armv9Cortex处理器系列,覆盖从极致性能到成本和能效受限的设备。
Arm物联网事业部软件产品管理总监ChristopheFava-Rivi表示:“当今的物联网(IoT)环境对边缘设备的需求更胜以往。智能摄像头需要在本地运行复杂的计算机视觉算法;工业传感器须处理复杂的机器学习(ML)模型以进行预测性维护;即使是简单的端点设备,也越来越离不开增强的安全性和虚拟化功能。这些不断变化的需求使得Armv9的先进功能不再只是锦上添花,而是新一代物联网创新的必备条件。”
Cortex-A320作为新型边缘AI计算平台的推出标志着边缘计算发展的重要里程碑,充分发挥了Armv9架构的优势,如针对ML性能的SVE2。相较于前代产品Cortex-A35,Cortex-A320的ML性能提升了十倍,标量性能提升了30%。
该平台能够支持基于智能体的AI应用上运行经过调优的大语言模型(LLM)和小语言模型(SLM),从而开辟全新类别的边缘应用场景。在未来的场景中,智能决策将更接近数据采集源头,这不仅能显著减少延迟,还能有效提升隐私保护水平。其采用的Armv9.2架构还为最小的Cortex-A设备带来了高级的安全功能,例如指针验证(PAC)、分支目标识别(BTI)和内存标记扩展(MTE)。这些功能至关重要,因为边缘设备通常在暴露的环境中运行并处理敏感数据。
目前,该平台已受到了包括亚马逊云科技(AWS)、西门子、瑞萨电子、研华科技和Eurotech在内的多家合作伙伴的支持。
Arm物联网事业部业务拓展副总裁马健表示:“边缘AI需要更卓越的计算性能、更强大的安全性,以及更出色的软件灵活性。得益于广泛的开源Linux支持、强大的安全生态系统,以及Armv9架构所取得的关键进展,Cortex-A320可确保与边缘侧和基础设施设备兼容,同时具备出色能效和可扩展性。帮助中国企业客户利用Arm的技术获得物联网AI领域的优势。”
她认为:“AI的未来趋势将转向边缘,而全新Arm边缘AI计算平台将成为新一轮物联网创新的催化剂。Armv9架构的特性、先进的AI功能和全面软件支持的结合,为OEM厂商和开发者创造了新的可能性。通过结合Arm的A处理器架构及相关的软件生态系统,并在高能效和灵活性支持下,Cortex-A320为物联网领域的各个细分市场提供了卓越的可扩展性和多样化。”
通过“性能+能效+安全+生态”四位一体的创新,Arm的AI边缘计算平台不仅解决了物联网设备在复杂AI任务处理中的瓶颈,更重新定义了边缘智能的可行性边界。其技术优势与产业合作将加速边缘AI从概念走向规模化应用,为工业自动化、智能家居、智慧城市等领域的数字化转型提供核心驱动力,同时推动全球物联网生态向更高性能、更安全可靠的方向演进。