您的位置首页 >一天动态 >

八路达成1.1TB HBM3e内存!NVIDIA奉上全球第一GPU H200

导读 大家好,我是编辑发展,现在带给大家的是八路达成1 1TB HBM3e内存!NVIDIA奉上全球第一GPU H200,一起往下看看吧!! NVIDIA GPU已经在A
大家好,我是编辑发展,现在带给大家的是八路达成1.1TB HBM3e内存!NVIDIA奉上全球第一GPU H200,一起往下看看吧!!

NVIDIA GPU已经在AI、HPC领域遥遥领先,但没有最强,只有更强。

现在,NVIDIA又发布了全新的HGX H200加速器,可处理AIGC、HPC工作负载的海量数据。

八路达成1.1TB HBM3e内存!NVIDIA奉上全球第一GPU H200

NVIDIA H200的一大特点就是首发新一代HBM3e高带宽内存(疑似来自SK海力士),单颗容量就多达141GB(原始容量144GB但为提高良率屏蔽了一点点),同时带宽多达4.8TB/s。

对比H100,容量增加了76%,带宽增加了43%,而对比上代A100,更是容量几乎翻番,带宽增加2.4倍。

得益于NVLink、NVSwitch高速互连技术,H200还可以四路、八路并联,因此单系统的HBM3e内存容量能做到最多1128GB,也就是1.1TB。

只是相比于AMD Instinct MI300X还差点意思,后者搭载了192GB HBM3,带宽高达5.2TB/s。

八路达成1.1TB HBM3e内存!NVIDIA奉上全球第一GPU H200

性能方面,H200再一次实现了飞跃,700亿参数的Llama2大语言模型推理性能比H100提高了多达90%,1750亿参数的GTP-3模型推理性能也提高了60%,而对比前代A100 HPC模拟性能直接翻番。

八路H200系统下,FP8深度学习计算性能可以超过32PFlops,也就是每秒3.2亿亿次浮点计算,堪比一台大型超级计算机。

随着未来软件的持续升级,H200还有望继续释放潜力,实现更大的性能优势。

此外,H200还可以与采用超高速NVLink-C2C互连技术的NVIDIA Grace CPU处理器搭配使用,就组成了GH200 Grace Hopper超级芯片,专为大型HPC、AI应用而设计的计算模块。

NVIDIA H200将从2024年第二季度开始通过全球系统制造商、云服务提供商提供。

八路达成1.1TB HBM3e内存!NVIDIA奉上全球第一GPU H200

文章来源:快科技

版权声明:本文由用户上传,如有侵权请联系删除!