英伟达AI超大规模组网平台方案

薪科技快评 2024-11-19 19:10:58

英伟达GPU:AI超大规模组网

"英伟达,引领GPU技术革新,持续加速AI超大规模组网进程。自2024年起,英伟达每2年将推出一代新型GPU架构,如今的Blackwell芯片已投入生产。展望未来,2025年,我们将见证Blackwell Ultra AI芯片的诞生;2026年,“Rubin”下一代AI平台将隆重登场;至2027年,Rubin Ultra芯片将迎来更新,频率将提升至每年一次。英伟达,与您共创无限可能的未来。"

英伟达的BlackLabe在性能上高于AMD的Instinct MI325X和谷歌的Trillium芯片。BlackLabe是英伟达全球首个专为AI设计的高性能以太网架构Spectrum-X的一部分,目前正在为多家客户进行量产。

英伟达表达了发力 AI 以太网的决心,其全球首个专为 AI 设计的高性能以太网架构 Spectrum-X,目前正在为多家客户进行量产,公司预计 SpectrumX 将在一年内跃升至数十亿美元的产品线。

英伟达推出了适用于以太网的Spectrum X800 交换机。此外,英伟达计划在 2025 年推出 Spectrum X800 Ultra,X800 将支持 10 万卡算力集群互联,而后续的 Spectrum X1600 将支持百万卡算力集群互联。

1 英伟达持续保持GPU 领先优势

GPU 性能持续提升,生成单个 Token 功耗大幅降低。从“Pascal”P100 GPU 一代到“Blackwell”B100 GPU 一代,8 年间 GPU 的性能提升了 1053 倍,从 19 TFLOPS提升到 20000 TFLOPS。功耗方面,Blackwell 在 Token 生成能耗上大幅降低。在 Pascal时代,每个 Token 消耗的能量高达 1.7 万焦耳,Blackwell 使得生成每个 Token 只需消耗 0.4 焦耳的能量。

英伟达凭借产品迭代速度的提升,保持了显著的产品性能优势。在2024年各大GPU厂商新推出的产品中,英伟达Blackwell系列GPU性能超越AMD的Instinct MI325X和谷歌的Trillium芯片。尽管Blackwell芯片尚未量产,但英伟达仍保持较大竞争优势。

2 英伟达发力AI以太网,超大规模组网趋势明确

英伟达在财报会上展示了其全力投入AI以太网的决心。Spectrum X800交换机,每秒51.2TB的速度和256路径(radix)的支持能力,专为以太网设计,引领行业潮流。英伟达计划于2025年推出Spectrum X800Ultra,将支持高达10万卡的算力集群互联。随着X800和后续的Spectrum X1600相继问世,百万卡算力集群互联将成为可能,以太网在AI集群组网上的应用前景一片光明,持续增长势头不可阻挡。

英伟达计划在2024年第二季度开始量产专为中国设计的AI GPU 芯片H20。此外,英伟达GPU 芯片的快速迭代,加速了1.6T光模需求的释放。NVIDIA Quantum-X800 是英伟达第一款使用 200Gb/s-per-laneSerDes 方案的交换机设备,通过 72 个 OSPF 1.6T 光模块提供 144 个 800G 端口,明确了 1.6T 光模块需求。

博通在官网给出了基于单通道 200G 光通信技术的网络架构图。根据博通的方案,单通道 200G 光通信技术可以适配 51.2T/102.4T 两个代际的交换机芯片。单通道 200G 光网络包括了 EML、VCSEL、CW 光源、基于单通道 200G 方案的 1.6T光模块、线缆等。

在2024H2至2025期间,1.6T光模块的研发与交付能力仍将主导光模块厂商竞争格局,有利于头部企业巩固优势。同时,低时延、低成本、低功耗的CPO、LPO、硅光、薄膜铌酸锂等技术或为新进企业带来突破机会。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

0 阅读:3

薪科技快评

简介:薪科技评说,发现技术的点滴,记录科学的飞跃!