英伟达凭借其人工智能加速器占据了市场。这些芯片需要大量高带宽内存,目前大部分此类内存由 SK 海力士供应,而三星仍在努力争取其 HBM3E 芯片获批。
在这一过程持续推进之际,据报道,两家公司都在秘密商讨将一种名为 SOCAMM(片上系统先进内存模块)的新型先进人工智能内存芯片商业化。据说英伟达也在就这种内存芯片与 SK 海力士进行谈判。谈判围绕将这一新内存标准商业化展开。业内认为,相较于构成如今人工智能加速器核心的现有高带宽内存芯片,它是一种进步。

这些芯片旨在显著提升人工智能超级计算机的性能。SOCAMM 具有更高的性价比,其模块设计拥有更多端口,有助于减少数据瓶颈,而数据瓶颈仍是人工智能计算领域面临的一项挑战。SOCAMM 也是可拆卸的,这将使数据中心运营商能够更换和升级内存模块,实现性能的持续提升。鉴于其体积紧凑,在相同空间内可以安装更多 SOCAMM 模块,以提升高性能计算能力。业内人士强调,英伟达以及三星等内存公司目前正在研发 SOCAMM 原型产品,并在预计于 2025 年底前开始的大规模生产之前进行性能测试。这可能为三星提供又一次机会,收复其在高带宽内存领域输给 SK 海力士的部分失地。