Arm推出全球首个Armv9边缘AI计算平台,引领新一轮物联网创新

来源:爱集微 #Arm# #IoT# #Armv9#
2274

受DeepSeek等创新技术推动,今年AI在边缘计算领域的爆发增长态势已初见端倪。在此节点之下,Arm日前针对物联网市场推出全球首个基于Armv9架构的边缘AI计算平台。该计算平台支持运行超10亿参数的端侧AI模型,这无疑是为物联网芯片性能的提升按下了加速键。正如Arm高级副总裁兼物联网事业部总经理 Paul Williamson所言:“AI的革新已不再局限于云端。随着世界的互联和智能化水平的日益提升,从智慧城市到工业自动化,在边缘侧处理AI工作负载不仅带来显著的优势,其必要性更是不可或缺。”

边缘AI计算新引擎

据了解,此次Arm推出的Armv9边缘AI计算平台是以全新的Cortex-A320 CPU和支持Transformer网络的Ethos-U85 NPU为核心。Cortex-A320是Arm首个专为物联网优化,基于Armv9架构的超高能效CPU,专为功耗优化需求较高的设备设计。Ethos-U85 NPU则针对Transformer网络进行了原生支持,进一步提升了平台的AI加速能力。

Arm物联网事业部业务拓展副总裁马健表示,该边缘AI计算平台并非CPU和AI加速器的简单堆叠,而是实现了深度配合,让CPU和NPU相得益彰。Cortex-A320能够为Ethos-U85提供更大的内存容量和更高的带宽,让大模型在Ethos-U85上流畅运行;任何开发者们不希望在Ethos-U85上运行的AI操作,可以回退到Cortex-A320,利用其Neon/SVE2引擎更灵活有效地在CPU上执行,确保工作负载在最合适的位置运行。

相较于去年基于Cortex-M85搭配Ethos-U85的平台,全新边缘Aij计算平台提升了八倍的 ML 计算性能,赋能边缘AI设备轻松运行超过10亿参数的大模型,助力大模型与生成式AI在物联网领域的落地。同时,Ethos-U85驱动程序已进行更新,使得Cortex-A320能够直接驱动Ethos-U85,无需额外搭载Cortex-M。这一更新降低了延迟,并使 Arm 的合作伙伴可以去掉用于驱动AI加速器的额外控制器,从而降低成本和系统复杂性。

Cortex-A320和Ethos-U85的组合,将成为智能物联网应用领域运行大模型及需要更高软件灵活性的边缘AI任务的理想选择。

将Armv9架构引入物联网

此前Arm已将Armv9架构引入到了基础设施、智能终端以及智能汽车领域,随着此次针对物联网领域的Armv9边缘AI计算平台的推出,基于Armv9架构的处理器已经全面覆盖“云-边-端”。

全新发布的Cortex-A320作为Armv9边缘AI计算平台的核心组件,是Arm首个专为物联网应用优化、基于Armv9架构的超高能效CPU。

在ML性能方面,Cortex-A320相较于前代产品Cortex-A35提升了高达10倍的ML计算能力。此外,其能效比较Cortex-A520提升了50%。在标量计算性能方面,Cortex-A320的性能比前代Cortex-A35提高了30%,带来了更强的通用计算能力。

Cortex-A320充分利用了Armv9增强的AI计算特性和安全性。AI计算性能方面,Armv9架构的特性使得Cortex-A320的AI计算能力大幅增强。比如,增强的Neon和可伸缩向量扩展(SVE2)技术,可提供更高效的ML计算能力;支持如BFloat16等新数据类型,提高AI计算的精度和能效;新增的矩阵乘法指令优化了AI和ML计算性能,加速神经网络推理和训练任务。

安全性是物联网用户除性能之外的一大关注重点。马健提到:“随着边缘应用场景变得更加复杂,以及设备端软件及数据价值的提升,安全性比以往任何时候都更加重要。”

Cortex-A320引入了一系列先进的Armv9安全特性,为物联网设备筑牢安全防线。Secure EL2增强了TrustZone内部的隔离性,支持更安全地运行软件容器。指针验证/分支目标识别(PACBTI)可有效缓解跳转和返回编程中的指针安全隐患。而内存标记扩展(MTE)则通过内存标记机制,使黑客更难利用漏洞进行攻击,提高整体系统安全性。

持续推进边缘AI发展

在DeepSeek等创新技术的推动下,今年AI在边缘计算领域的爆发增长态势已初见端倪。同时,Arm在今年伊始即推出全球首个Armv9边缘AI计算平台,彰显了其在不断推动边缘智能创新方面坚定且迅速的步伐。

针对物联网的碎片化挑战,Arm在过去几年中在IoT标准化方面,推出了Arm SystemReady项目,希望在不同的IoT平台上可以支持各种主流软件和操作系统,确保“开机即用”。目前全球范围内已经累计颁发了超过了160张认证。

此外,Arm也与中国市场的本地认证机构进行了深度合作推动PSA Certified认证。获得PSA Certified认证后,合作伙伴的产品通过欧美市场的电子产品认证流程将更为顺畅,为中国芯片和电子产品出海提供了一条便捷的通道。截至目前,全球已有101家企业成功取得PSA Certified认证,累计认证数量达241项。其中,许多中国的合作伙伴也通过了 PSA Certified 认证,包括瑞芯微的 RK3588/RK356X 系列芯片、涂鸦智能的 TS24-U 模组等。

通过软硬件协同以及生态合作伙伴的紧密合作,Arm将助力智能物联网市场构建更加完善、协同的边缘AI生态系统。

展望未来,AI的推理与应用从云端走向边缘是AI发展的大趋势,相信Arm全新的边缘AI计算平台将成为新一轮物联网创新的催化剂。

责编: 张轶群
来源:爱集微 #Arm# #IoT# #Armv9#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...