AMD发布新GPU加速卡Instinct MI325X:八卡2TB HBM3E、FP8性能超每秒2亿亿次

admin admin
7
2024-10-11
快科技10月11日美国旧金山现场报道:在AdvancingAI2024大会上,AMD正式发布了新款GPU加速卡“InstinctMI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。【硬件规格、性能篇】MI325X配备了多达256GBHBM3E...

快科技10月11日美国旧金山现场报道:

AMD发布新GPU加速卡Instinct MI325X:八卡2TB HBM3E、FP8性能超每秒2亿亿次

在Advancing AI 2024大会上,AMD正式发布了新款GPU加速卡“Instinct MI325X”。

它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。

【硬件规格、性能篇】

AMD发布新GPU加速卡Instinct MI325X:八卡2TB HBM3E、FP8性能超每秒2亿亿次

MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB,还是八颗,但单颗容量从24GB增至32GB。

同时,带宽从5.3TB/s来到了6TB/s,同样增加了大约13%,Infinity Fabric总线的带宽则还是896GB/s。

性能方面倒是没啥变化,还是FP16 1.3 PFlops(每秒1300万亿次)、FP8 2.6 PFlops。

很自然的,核心规格也是原封不动:5nm XCD模块搭配6nm IOD模块,3.5D封装,1530亿个晶体管,304个计算单元。

不过,AMD透露MI325X的功耗达到了1000W,相比MI320X增加了750W。

AMD发布新GPU加速卡Instinct MI325X:八卡2TB HBM3E、FP8性能超每秒2亿亿次

MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

这个规模对比NVIDIA H200 HGX,分别有80%、30%、30%的优势。

对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。

训练性能方面,单卡可领先H200 10%,八卡平台则是持平。

MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。

其他相关 RELEVANT MATERIAL

华东重机溢价近70倍并购GPU芯片公司 后者员工合计20多人、评估值约2亿元

admin admin
1
2024-10-22
  每经记者赵李南  王晶    每经编辑张海妮      今年10月8日,华东重机(002685.SZ,股价6.13元,市值61.77亿元)公告,其已经完成对厦门锐信图芯科技有限公司(以下简称锐信图芯)的收购,后者被纳入合并报表范围。  华东重机之所以会并购锐信图芯,主要看重后者的GPU......

英特尔与AMD罕见结盟 成立x86生态系统顾问小组

admin admin
8
2024-10-17
  南方财经10月16日电,今日英特尔和AMD宣布联合成立x86生态系统顾问小组,共同扩展x86生态系统。面对芯片市场的激烈角逐,作为竞争对手,英特尔和AMD罕见联手,一起强化x86生态。  小组成员还包括博通、戴尔、谷歌、慧与科技、惠普、联想、Meta、微软、甲骨文和红帽,以及行业技术领袖Lin......

杨元庆、AMD苏妈开玩笑 明年诺贝尔奖有戏?

admin admin
5
2024-10-17
  联想杨元庆和AMDCEO开起了玩笑:今年连诺贝尔物理学奖和化学奖都给了人工智能相关的科学家,我不知道明年会不会是你?”......

英伟达GPU平替方案获大单!亚马逊与Databricks签署AI芯片协议

admin admin
8
2024-10-16
  据报道,亚马逊已与Snowflake的竞争对手Databricks签署了一项为期五年的协议,允许这家数据仓库公司使用亚马逊的TrainiumAI芯片。  此次合作主要围绕亚马逊的TrainiumAI芯片展开,该芯片为希望定制或构建人工智能模型的公司提供了英伟达GPU之外的一种更便宜的替代品......

招银国际:AMD“Advancing AI”大会回顾

admin admin
7
2024-10-15
  招银国际发布研报称,美国当地时间10月10日,AMD(AMD.US)在举办的“AdvancingAI”大会上发布了全新的AI加速器InstinctMI325X,该产品旨在对标英伟达(NVDA.US)的H200,前者预计将于2024年四季度出货。在本次大会上,AMD还推出了对标英伟达Bla......

美国被曝考虑限制英伟达、AMD等向中东国家出口AI芯片

admin admin
7
2024-10-15
  当地时间10月15日,外媒援引知情人士消息称,美国已讨论限制英伟达、AMD等美国公司对某些国家人工智能(AI)芯片的出口许可证设定上限。这些限制将重点放在波斯湾国家,这些国家对人工智能数据中心的需求越来越大,限制的举措将影响一些国家的人工智能能力。  上述考虑还处于早期阶段,存在不确定性。英......
年度爆文