6月13日消息,AMD在一份发布于企业官网的博客文章中确认,InstinctMI350系列显卡加速器的HBM3E内存源自美光和三星电子。
InstinctMI350系列通过8个HBM堆栈实现了288GB的内存容量和8TB/s 的内存带宽。因此每个HBM堆栈容量为36GB,对应基于24GbDRAM的HBM3E12Hi。
规模庞大的内存池意味着单个MI350GPU就可支持520B参数AI模型的运行;而在8GPU的平台配置中,其总内存规模达到2.304TB,能以FP4精度输出161PFLOPS的峰值算力,支持高密度AI工作负载。
注意到,AMD并未选择三大内存原厂中的领军企业SK海力士作为HBM3E内存供应商,这可能与SK海力士的产能被英伟达大量挤占有关。
责任编辑:Diy92
点击查看全文(剩余0%)