2月27日，Arm控股有限公司发布了Armv9边缘人工智能(AI)计算平台。据悉，该平台可支持运行超10亿参数的端侧AI模型。
Arm高级副总裁兼物联网事业部总经理PaulWilliamson表示：“AI的革新已不再局限于云端。随着世界的互联和智能化水平的日益提升，从智慧城市到工业自动化，在边缘侧处理AI工作负载不仅带来显著的优势，其必要性更是不可或缺。专为物联网打造的Armv9边缘AI计算平台的推出，标志着这一发展趋势迈入了重要的里程碑。”
据介绍，Arm此次发布的计算平台集成了全新的超高能效Armv9CPU——Cortex-A320和支持Transformer算子网络的Ethos-U85NPU，打造出全球首个专为物联网优化的Armv9边缘AI计算平台。相较于去年推出的基于Cortex-M85的平台，新的边缘AI计算平台的机器学习(ML)性能提高了八倍。Arm表示，从授权该技术以构建SoC芯片的合作伙伴，到构建下一代设备的ODM和OEM厂商，该平台受到了包括亚马逊云科技(AWS)、西门子、瑞萨电子、研华科技和Eurotech在内的多家业界合作伙伴的支持。
记者在现场了解到，该平台能够支持基于智能体的AI应用上运行经过调优的大语言模型(LLM)和小语言模型(SLM)，从而开辟全新类别的边缘应用场景。在未来的场景中，智能决策将更接近数据采集源头，这不仅能显著减少延迟，还能有效提升隐私保护水平。
