英伟达在2024IEEEIEDM国际电子设备会议上分享了未来AI加速器的构想。根据分析师IanCutress的X平台动态，英伟达认为未来的AI加速器将位于大面积先进封装基板之上，并采用垂直供电、集成硅光子I/O器件、GPU采用多模块设计、3D垂直堆叠DRAM内存以及在模块内直接整合冷板等技术。
具体来说，每个AI加速器复合体包含4个GPU模块，每个GPU模块与6个小型DRAM内存模块垂直连接并与3组硅光子I/O器件配对。硅光子I/O能够提供比现有电气I/O更宽的带宽和能效表现，是目前先进工艺的重要发展方向。而3D垂直堆叠的DRAM内存相较于目前的2.5DHBM方案拥有更低信号传输距离，有助于增加引脚数量和提升每引脚速率。然而，在实现这些技术和设计之前需要解决一些挑战，例如发热问题。为了提高解热能力，需要垂直集成更多器件，并使用模块整合冷板技术。
IanCutress指出，这一设想中的AI加速器复合体要等到2028至2030年乃至更晚才会成为现实。原因在于，英伟达AIGPU订单庞大，对硅光子器件产能需求很大；只有当英伟达能保障每月100万以上硅光子连接时才会转向光学I/O；另一方面，垂直芯片堆叠所带来的热效应需要以更先进的材料来解决，届时可能会出现芯片内冷却方案。
总体而言，这一设想反映了英伟达对于未来高性能计算和人工智能领域发展的愿景，并展示了他们在这个领域中取得突破的努力。随着技术的进步和市场需求的变化，我们有理由期待未来会带来更多创新性的产品和服务。
