• 行业咨询
  • 品牌营销
  • 集微资讯
  • 知识产权
  • 集微职场
  • 集微投融资
  • 集微企业库
搜索
爱集微APP下载

扫码下载APP

爱集微APP扫码下载
集微logo
资讯集微报告舆情JiweiGPT企业洞察
2025第九届集微半导体大会集微视频
登录登录
bg_img
search_logo
大家都在搜

Arm CPU 精准适配阿里 Qwen3 开源模型,实现卓越端侧 AI 推理能力

作者: 爱集微 05-11 15:26
相关舆情 AI解读 生成海报
来源:Arm社区 #AI# #阿里巴巴#
6.1w

近日,阿里巴巴开源了新一代通义千问模型 Qwen3,Arm 率先成为首批成功适配该模型的计算平台厂商。与此同时,Arm 面向人工智能 (AI) 框架开发者的开源计算内核 Arm KleidiAI 与阿里巴巴开源的轻量级深度学习框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能够在搭载 Arm 架构 CPU 的移动设备上无缝运行,为用户提供卓越的端侧 AI 推理能力。

作为阿里巴巴最新开源的混合推理模型,Qwen3 在 AIME、LiveCodeBench 等权威评测集上斩获了同尺寸开源模型 SOTA。其中,Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等三款模型兼具低功耗和高性能等优势,非常适合在移动端进行部署。

在 AI 模型快速迭代、日新月异的当下,开发者亟需一个具备可扩展性的通用技术底座,以便高效利用每一个新模型的优势。作为业界性能最强、能效最高的计算平台,Arm 为开发者提供了无缝优化其 AI 工作负载所需的卓越性能、能效、灵活性和可扩展性。Arm CPU 能满足不断发展的 AI 工作负载需求,是开发者的理想之选,它不仅能在模型推出时迅速实现适配与支持,还能随着模型的演进,通过 Arm 异构计算策略与 GPU、加速器及网络技术的共生协作,实现 AI 系统的最佳优化。在此次阿里 Qwen3 模型推出后,运行结果显示,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型在基于 Arm 架构 CPU 的移动设备上,运行和响应速度大幅提升,为终端用户带来了极致的 AI 推理能力。

双方围绕千问大模型持续紧密合作,今年三月,Arm 与阿里巴巴淘天集团在搭载基于 Arm Cortex-X925 的旗舰移动系统级芯片 (SoC) 的智能设备上,通过 KleidiAI 与 MNN 的集成,模型预填充(指 AI 模型在生成响应之前先对提示词输入进行处理)性能提升了 57%,以及解码(指处理提示词后从 AI 模型生成文本的过程)性能提升了 28%。这一性能提升,使得运行在搭载 Arm CPU 上的通义千问 Qwen2-VL-2B-Instruct,其端侧多模态 AI 工作负载的性能显著增进,带来全新的用户体验!

展望未来,Arm 也将一如既往助力开发者在端侧设备上提供更加复杂的多模态体验,为新一轮智能计算浪潮奠定坚实基础,在 AI 的不断演进中,实现体验的持续跃升!



责编: 爱集微
来源:Arm社区 #AI# #阿里巴巴#
分享至:
THE END
相关推荐
  • 两大AI巨头接连胜诉 美法官:用书籍训练AI属“合理使用”

  • 三星在印度举办技术研讨会,推出人工智能家居创新技术

  • 阿里最新17位合伙人名单出炉:9人退出,没有新增

  • 分析师预测:AI增长势头强劲,英伟达市值有望达6万亿美元

  • SEMI:AI驱动产业加速扩张,2028年半导体产能将达到每月1110万片晶圆

  • 黄仁勋:AI之后,机器人技术是英伟达下一个万亿美元增长机遇

评论

文明上网理性发言,请遵守新闻评论服务协议

登录参与评论

0/1000

提交内容
    没有更多评论
爱集微

微信:

邮箱:laoyaoba@gmail.com


11.2w文章总数
12012.5w总浏览量
最近发布
  • 响应中国汽研号召,为旌科技与业内同行联合发起汽车芯片质量提升倡议

    8小时前

  • 富创得智能科技:以扎实技术,服务玻璃基板封装未来

    8小时前

  • 高通孟樸:携手中国汽车产业伙伴 书写智能出行新篇章

    9小时前

  • 青岛市政府副市长赵胜村一行莅临京铭资本考察调研

    10小时前

  • 小米YU7 正式上市:小米天际屏+超级小爱带来全新座舱体验,1000万 Clips辅助驾驶交付即搭载

    10小时前

最新资讯
  • 光智科技终止购买先导电科100%股份

    5小时前

  • 华海清科首期投资不超5亿元扩建晶圆再生扩产项目

    5小时前

  • 秦安股份拟购买触摸屏厂商99%股份 股票停牌

    5小时前

  • 仕佳光子:拟收购福可喜玛控股权 股票停牌

    6小时前

  • 响应中国汽研号召,为旌科技与业内同行联合发起汽车芯片质量提升倡议

    8小时前

  • 芯机遇新突破!端侧AI技术与应用创新论坛议程出炉

    8小时前

关闭
加载

PDF 加载中...

集微logo
网站首页 版权声明 集微招聘 联系我们 网站地图 关于我们 商务合作 rss订阅

联系电话:

0592-6892326

新闻投稿:

laoyaoba@gmail.com

商务合作:

chenhao@ijiwei.com

问题反馈:

1574400753 (QQ)

集微官方微信

官方微信

集微官方微博

官方微博

集微app

APP下载

Copyright 2007-2023©IJiWei.com™Inc.All rights reserved | 闽ICP备17032949号

闽公网安备 35020502000344号