• 行业咨询
  • 品牌营销
  • 集微资讯
  • 知识产权
  • 集微职场
  • 集微投融资
  • 集微企业库
搜索
爱集微APP下载

扫码下载APP

爱集微APP扫码下载
集微logo
资讯集微报告舆情JiweiGPT企业洞察
2025第九届集微半导体大会集微视频
登录登录
bg_img
search_logo
大家都在搜

英伟达Blackwell芯片训练大型AI系统效率翻倍,所需芯片数量大幅减少

作者: 孙乐 06-05 07:04
相关舆情 AI解读 生成海报
来源:爱集微 #英伟达# #AI芯片#
9730

据新数据显示,英伟达最新芯片在大型人工智能(AI)系统训练方面取得进展,训练大型语言模型所需的芯片数量大幅下降。

MLCommons是一家发布AI系统基准性能结果的非营利组织,它发布了英伟达和AMD等公司芯片的最新数据,这些芯片用于训练。在训练过程中,AI系统需要输入大量数据进行学习。尽管股市的大部分注意力已经转移到更大的AI推理市场(即AI系统处理用户的问题),但训练系统所需的芯片数量仍然是一个关键的竞争因素。中国的DeepSeek声称将使用比美国竞争对手少得多的芯片来打造一款具有竞争力的聊天机器人。

这是MLCommons首次发布的关于芯片在训练Llama 3.1 405B等AI系统方面表现的测试结果。Llama 3.1 405B是由Meta Platforms发布的开源AI模型,其拥有足够多的“参数”,足以展现芯片在处理一些全球最复杂的训练任务(可能涉及数万亿个参数)时的表现。

英伟达及其合作伙伴是唯一提交该大型模型训练数据的参赛者。数据显示,英伟达的新款Blackwell芯片的单芯片速度是上一代Hopper芯片的两倍多。

英伟达新款芯片最快的测试结果是,2496块Blackwell芯片在27分钟内完成训练测试。数据显示,许多英伟达上一代芯片的测试时间是Blackwell芯片的三倍多,才能达到更快的速度。

CoreWeave首席产品官Chetan Kapoor表示,AI行业目前有一种趋势,即将更小的芯片组串联成子系统,用于单独的AI训练任务,而不是创建10万块或更多芯片的同质组。该公司与英伟达合作开发了部分成果。

Chetan Kapoor表示:“使用这样的方法,他们能够继续加速或缩短训练这些拥有数万亿参数的模型所需的时间。”

责编: 李梅
来源:爱集微 #英伟达# #AI芯片#
分享至:
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

相关推荐
  • 三星晶圆代工厂欲争夺英伟达2nm GPU订单

  • 受益DRAM复苏和AI芯片热潮,三星电子重启220亿美元晶圆厂项目

  • AI芯片不再依赖英伟达转投谷歌? OpenAI回应

  • 机构:预计台积电2027年AI芯片营收达460亿美元

  • 英伟达GB300 AI服务器将于下半年出货

  • 三星半导体部门负责人全永铉访问英伟达总部,讨论12层HBM3E供应

评论

文明上网理性发言,请遵守新闻评论服务协议

登录参与评论

0/1000

提交内容
    没有更多评论
孙乐

微信:tiannii520

邮箱:sunle@ijiwei.com

关注消费电子大类软硬件、晶圆、材料、存储、设备、触控、AI等前沿科技。


2649文章总数
6212w总浏览量
最近发布
  • 传苹果暂停开发折叠屏iPad

    7小时前

  • 陈立武采取激进策略,传英特尔取消内部玻璃基板项目

    9小时前

  • 三星晶圆代工厂欲争夺英伟达2nm GPU订单

    10小时前

  • 三星计划两年内推出第三代2nm工艺,战略转向稳定良率

    10小时前

  • 富士康将超300名中国大陆员工撤出印度iPhone工厂

    11小时前

最新资讯
  • BOE(京东方)联合荣耀打造荣耀Magic V5 以领先LTPO技术打造行业新标杆

    58分钟前

  • 兆驰半导体声明:有不法厂商冒充公司销售伪劣芯片产品

    1小时前

  • 永太科技等12被告被天赐材料起诉索赔8.88亿元

    2小时前

  • 西电校友论坛即将开幕,议程出炉!邀您共襄盛举

    3小时前

  • 探秘“芯”世界丨电子设备的核心基石,功率半导体究竟是什么?

    3小时前

  • 消息称三星因缺乏客户推迟美国芯片工厂竣工时间

    3小时前

关闭
加载

PDF 加载中...

集微logo
网站首页 版权声明 集微招聘 联系我们 网站地图 关于我们 商务合作 rss订阅

联系电话:

0592-6892326

新闻投稿:

laoyaoba@gmail.com

商务合作:

chenhao@ijiwei.com

问题反馈:

1574400753 (QQ)

集微官方微信

官方微信

集微官方微博

官方微博

集微app

APP下载

Copyright 2007-2023©IJiWei.com™Inc.All rights reserved | 闽ICP备17032949号

闽公网安备 35020502000344号