英伟达AI硬件新成果:H200NVLPCIeGPU和GB200NVL4

尾巴鲸闻 2024-11-19 18:38:34

英伟达近期在 SC24 超算大会上震撼发布两款全新 AI 硬件:H200 NVL PCIe GPU 和 GB200 NVL4 超级芯片。

英伟达打造的 H200 NVL PCIe GPU,是针对当前约七成企业机架电力供应不足 20kW 且采用空气冷却的现状,其 AI 计算卡专为低功耗环境设计,最高 TDP 功耗从 H200 SXM 的 700W 降低至 600W,尽管算力有所调整,但 HBM 内存容量与带宽仍保持在 141GB 与 4.8TB/s 的高水准,更好满足企业对高效能与低功耗的双重需求。

此前,英伟达也推出过针对有大型需求的企业提供服务器成品,提供完整的服务器解决方案。

例如GB200 NVL72服务器,提供了 36 个 CPU 和 72 个Blackwell构架 GPU,并完善提供一体水冷散热方案,实现 720 PFlops 的 AI 训练性能或 1440 PFlops 的推理性能。

H200 NVL PCIe GPU 还支持双路或四路 900GB/s 的 NVLink 桥接器互联,进一步提升了数据传输效率。

性能表现方面,H200 NVL GPU 相较于前代 H100 NVL,内存容量提升 1.5 倍,带宽提升 1.2 倍,实现 1.7 倍的 AI推 理性能提升。

在高性能计算(HPC)应用中,其性能更是提升 30%,为科研、气候模拟等领域提供了更为强大的计算能力。

与此同时,英伟达还推出了面向单服务器解决方案的 GB200 NVL4 超级芯片。这款超级芯片集成了 2 个 Grace CPU 和 4 个 Blackwell GPU,形成了强大的计算模块,HBM 内存池容量达到了 1.3TB,相当于两组 GB200 Grace Blackwell 超级芯片的总和。当然了,整体功耗为 5.4kW。相较于上代 GH200 NVL4 系统,新的 GB200 NVL4 在模拟性能、AI 训练性能和 AI 推理性能上分别实现了 2.2 倍、1.8 倍和 1.8 倍的提升。

GB200 NVL4 超级芯片的推出,可以说是英伟达继续加码 AI 计算领域的又一重要创新,更将为用户带来更为高效、便捷的计算体验。

根据曝光的消息汇总,GB200 NVL4 超级芯片预计将于 2025 年下半年正式上市。

0 阅读:1

尾巴鲸闻

简介:科技资讯、数码体验内容分享