• 行业咨询
  • 品牌营销
  • 集微资讯
  • 知识产权
  • 集微职场
  • 集微投融资
  • 集微企业库
搜索
爱集微APP下载

扫码下载APP

爱集微APP扫码下载
集微logo
资讯集微报告舆情JiweiGPT企业洞察
集微视频
登录登录
bg_img
search_logo
大家都在搜

Arm CPU 精准适配阿里 Qwen3 开源模型,实现卓越端侧 AI 推理能力

作者: 爱集微 05-11 15:26
相关舆情 AI解读 生成海报
来源:Arm社区 #AI# #阿里巴巴#
5.7w

近日,阿里巴巴开源了新一代通义千问模型 Qwen3,Arm 率先成为首批成功适配该模型的计算平台厂商。与此同时,Arm 面向人工智能 (AI) 框架开发者的开源计算内核 Arm KleidiAI 与阿里巴巴开源的轻量级深度学习框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能够在搭载 Arm 架构 CPU 的移动设备上无缝运行,为用户提供卓越的端侧 AI 推理能力。

作为阿里巴巴最新开源的混合推理模型,Qwen3 在 AIME、LiveCodeBench 等权威评测集上斩获了同尺寸开源模型 SOTA。其中,Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等三款模型兼具低功耗和高性能等优势,非常适合在移动端进行部署。

在 AI 模型快速迭代、日新月异的当下,开发者亟需一个具备可扩展性的通用技术底座,以便高效利用每一个新模型的优势。作为业界性能最强、能效最高的计算平台,Arm 为开发者提供了无缝优化其 AI 工作负载所需的卓越性能、能效、灵活性和可扩展性。Arm CPU 能满足不断发展的 AI 工作负载需求,是开发者的理想之选,它不仅能在模型推出时迅速实现适配与支持,还能随着模型的演进,通过 Arm 异构计算策略与 GPU、加速器及网络技术的共生协作,实现 AI 系统的最佳优化。在此次阿里 Qwen3 模型推出后,运行结果显示,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型在基于 Arm 架构 CPU 的移动设备上,运行和响应速度大幅提升,为终端用户带来了极致的 AI 推理能力。

双方围绕千问大模型持续紧密合作,今年三月,Arm 与阿里巴巴淘天集团在搭载基于 Arm Cortex-X925 的旗舰移动系统级芯片 (SoC) 的智能设备上,通过 KleidiAI 与 MNN 的集成,模型预填充(指 AI 模型在生成响应之前先对提示词输入进行处理)性能提升了 57%,以及解码(指处理提示词后从 AI 模型生成文本的过程)性能提升了 28%。这一性能提升,使得运行在搭载 Arm CPU 上的通义千问 Qwen2-VL-2B-Instruct,其端侧多模态 AI 工作负载的性能显著增进,带来全新的用户体验!

展望未来,Arm 也将一如既往助力开发者在端侧设备上提供更加复杂的多模态体验,为新一轮智能计算浪潮奠定坚实基础,在 AI 的不断演进中,实现体验的持续跃升!



责编: 爱集微
来源:Arm社区 #AI# #阿里巴巴#
分享至:
THE END
相关推荐
  • 苹果AI还在推迟 知名记者:Siri升级不会是WWDC主角

  • 非AI芯片需求低迷,日本7座半导体工厂一半未量产

  • 高通出击进军数据中心 安蒙:新CPU专为AI时代打造

  • 推动生成式人工智能赋能产业发展

  • 打破56年数学铁律!谷歌AlphaEvolve自我进化实现算法效率狂飙

  • 国芯科技携生态链参加苏州STcon智慧技术及应用大会强力推动AI芯片应用落地

评论

文明上网理性发言,请遵守新闻评论服务协议

登录参与评论

0/1000

提交内容
    没有更多评论
爱集微

微信:

邮箱:laoyaoba@gmail.com


11w文章总数
12012.5w总浏览量
最近发布
  • BOE(京东方)国内首条第8.6代AMOLED生产线提前4个月设备搬入! 以行业新纪录加速全球OLED产业高端化跃迁

    7小时前

  • 和研科技全新智造基地落成乔迁&新品发布盛会

    7小时前

  • 微容科技解析高端MLCC如何让AI赋能迭代后机器人“纵享丝滑”

    7小时前

  • 鑫晟光电“移位寄存器及其驱动方法、栅极驱动电路及显示装置”专利获授权

    7小时前

  • vivo“连接态非连续接收的配置方法、终端及网络侧设备”专利公布

    7小时前

最新资讯
  • Computex 2025:英特尔发布全新GPU,面向AI和工作站加速

    2小时前

  • 兆易创新拟发行H股并在香港联交所上市

    3小时前

  • 本田削减电动化投资 转向混动车型应对市场变化

    3小时前

  • 三部门联合印发《2025年深入推进IPv6规模部署和应用工作要点》

    3小时前

  • 沪硅产业70.4亿收购三公司股权 进一步进行管理整合

    4小时前

  • 一季度全球智能手机面板市场出货量约5.4亿片

    4小时前

关闭
加载

PDF 加载中...

集微logo
网站首页 版权声明 集微招聘 联系我们 网站地图 关于我们 商务合作 rss订阅

联系电话:

0592-6892326

新闻投稿:

laoyaoba@gmail.com

商务合作:

chenhao@ijiwei.com

问题反馈:

1574400753 (QQ)

集微官方微信

官方微信

集微官方微博

官方微博

集微app

APP下载

Copyright 2007-2023©IJiWei.com™Inc.All rights reserved | 闽ICP备17032949号

闽公网安备 35020502000344号