在2024年SK AI峰会上,SK海力士展示了业界首款16-Hi HBM3E内存,并计划最早明年提供样品,比三星和美光抢先一步。
几周前,SK海力士推出了其HBM3E内存的12-Hi变体,并从AMD(MI325X)和Nvidia(Blackwell Ultra)那里获得了合同,还在上个季度获得创纪录的利润。现在,SK海力士马不停蹄地又宣布了HBM3E系列的16层升级版,容量为每堆叠48GB(每颗单独的芯片3GB),这种密度的增加现在允许AI加速器在8堆叠配置中拥有高达384GB的HBM3E内存。
SK海力士声称,利用最新的16-Hi HBM3E高带宽内存,让AI训练性能提升了18%,在推理性能上提高了32%。与12-Hi一样,新的16-Hi HBM3E内存也采用了MR-MUF等封装技术,通过在它们之间熔化焊料来连接芯片。SK海力士预计16-Hi HBM3E样品将在2025年初准备就绪。
不过这种内存可能寿命短暂,因为Nvidia的下一代Rubin芯片计划在明年晚些时候量产,并将基于HBM4。当然,SK海力士也可能将16-Hi产品作为HBM4的替代或补充。
HBM4将把通道宽度从1024位翻倍到2048位,同时支持高达16层垂直堆叠的DRAM芯片(16-Hi),每个芯片最多包含4GB的内存。这些是代代相传的巨大升级,应该足以满足即将到来的AI GPU的高内存需求。
SK海力士会长崔泰源表示,Nvidia已要求SK海力士将下一代HBM4高带宽内存芯片的交付时间提前6个月。应英伟达要求,SK海力士有望明年下半年推出原定于2026年上市的12层堆叠HBM4芯片。
此外,SK海力士还在积极开发PCIe 6.0 SSD、针对AI服务器的高容量QLC(四层单元)eSSD,以及用于移动设备的UFS 5.0。为了为未来的笔记本电脑甚至掌上设备提供动力,SK海力士正在开发LPCAMM2模块和使用其1cnm节点的焊接LPDDR5/6内存。没有提到桌面的CAMM2模块,所以PC用户需要等待,至少等到CAMM2采用成熟。