仅仅在2个月前的GTC 2024大会上,NVIDIA刚推出了产品化的万卡集群智算中心,也就是基于DGX GB200 SuperPOD组成的万卡智算中心。而在2个月后的Computex 2024的主题演讲中,黄仁勋就透露NVIDIA正在着眼十万卡互联和百万卡互联的智算中心,预计将分别在2025年和2026年推出!
百万卡智算中心不是梦!在黄仁勋眼中,百万卡互联的基础技术,就是Spectrum-X AI 以太网络。Spectrum-X是全球首款专为AI打造的以太网网络平台,可将生成式AI 网络通信效率较传统以太网网络平台提升1.6倍。当前,Spectrum-X交换机的版本为Spectrum-X800,也是全球首批高达800Gb/s端到端吞吐量的网络平台。而在Computex 2024上,黄仁勋透露将在2025年推出Spectrum-X800 Ultra、在2026年推出Spectrum-X1600,再配合升级的NVIDIA智能网卡等,就可以支持十万卡和百万卡互联的智算中心!
在Computex 2024上,NVIDIA宣布了更多的Spectrum-X用户与合作伙伴,包括AI云服务提供商CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global和Yotta等,以及永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、纬创(Wistron)和纬颖科技(Wiwynn)等系统厂商合作伙伴。
此前,戴尔科技、慧与、联想和超微等已经将Spectrum-X整合到其解决方案中,为业界带来了生成式AI网络的超强体验。NVIDIA在Computex 2024上宣布,计划每年都推出新的Spectrum-X产品,为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,不断提高AI以太网网络性能。
NVIDIA在Computex 2024上继续落地AI工厂的愿景,一大批顶级服务器制造商宣布推出基于GB200的系统,同时全新的单节点两路服务器GB200 NVL2亮相,为用户带来了可扩展的数据中心系统解决方案。两路服务器一直是服务器市场的主流,如今NVIDIA推出两路单节点服务器,无疑将AI“战火”直接“烧”到了主流服务器制造商面前。
NVIDIA于去年面向OEM制造商推出的MGX服务器规范,今年迎来了一大批加盟者。采用模块化设计的MGX服务器规范,为系统制造商提供了模块化参考架构,从而快速、经济、高效地制造100多种服务器机型。去年有6家合作伙伴推出了14种机型,在今年的Computex 2024上,NVIDIA进一步宣布有25家合作伙伴推出超过90种机型。
NVIDIA的竞争对手AMD和Intel也宣布支持MGX规范,即将推出首批基于自家CPU的MGX设计规范。采用MGX设计规范,可以减少3/4的机型开发成本和缩短2/3的开发时间,为服务器制造商带来了极大的效益。NVIDIA最新的GB200 NVL2也采用了MGX设计规范,从而支持众多的系统配置和网络选择,在现有数据中心架构中无缝集成加速计算能力。
全球最大的电子设备制造商富士康正计划采用NVIDIA的AI产品平台,利用丰富的垂直行业数据对开源大模型进行预训练和微调,从而开发富士康自己的AI平台Foxbrain。该平台将富士康从制造商转型为AI解决方案提供商,为智能汽车、智能制造和智慧城市等提供数字助手。在富士康的示范下,更多的制造商正在加入AI工厂的行列,从制造商转型为AI解决方案商。
此外,在Computex 2024上,一大批AI PC亮相,其中也包括NVIDIA带来的RTX全线加速AI PC,数百个型号的AI PC将在RTX显卡的加速下,为消费者和商业带来更强大的AI PC产品和体验。
2024年注定要成为全球科技史的里程碑之年,NVIDIA在今年正式推出了产品化的万卡智算中心,2025年或将推出十万卡互联的智算中心,2026年或将推出百万卡互联的智算中心。站在百万卡智算中心的角度反观今年的产品发布,NVIDIA的意图更加清晰!