全球首款12层堆叠HBM3E,开始量产了

袁遗说科技 2024-09-26 19:07:29

本文由半导体产业纵横(ID:ICVIEWS)综合

SK海力士宣布,已开始量产12H HBM3E芯片,实现了现有HBM产品中最大的36GB容量。

今日,韩国SK海力士宣布,已开始量产全球首款12层HBM3E产品,容量为36GB,这是迄今为止现有HBM的最大容量。

SK海力士声称,12层HBM3E产品在速度、容量和稳定性方面均达到全球最高标准。该公司计划在年内向客户提供量产产品。

受此消息影响,SK海力士股价周四在韩股市场上大涨。

SK海力士率先实现12层HBM量产

今年3月,SK海力士向客户交付8层HBM3E产品,创下业界首位。时隔6个月后,SK海力士再次业界首个实现12层HBM3E芯片量产,再次证明其技术优势。

SK海力士是自2013年推出世界首款HBM以来,开发并供应从第一代(HBM1)到第五代(HBM3E)全部HBM系列的唯一企业。

如今,SK海力士实现在业界率先量产12层HBM3E后,将满足人工智能企业日益增长的需求,并继续保持其在人工智能存储器市场的领先地位。

SK海力士总裁 Justin Kim表示:“SK海力士再次突破了AI内存领域的技术限制,展示了我们在AI内存领域的行业领先地位…为了克服人工智能时代的挑战,我们将稳步准备下一代内存产品,继续保持全球第一的地位。”

速度、容量、稳定性均达最高标准

据该公司介绍,12层HBM3E产品在速度、容量、稳定性等人工智能存储器所必需的所有领域都符合世界最高标准。

SK海力士将内存运行速度提高到9.6 Gbps,这是目前可用的最高内存速度。如果大型语言模型Llama 3 70b由单个搭载4个HBM3E产品的GPU驱动,每秒可读取总计700亿个参数35次。

SK海力士的12层产品和此前同等厚度的8层产品相比,容量增加了50%。为了实现这一目标,该公司将每个DRAM芯片比以前薄40%,并使用TSV技术垂直堆叠。

该公司还通过应用其核心技术Advanced MR-MUF工艺,解决了由于将更薄的芯片堆叠得更高而产生的结构问题。这使得新一代产品散热性能比上一代产品高10%,并通过增强翘曲控制来确保产品的稳定性和可靠性。

三星进展如何?

HBM(高带宽存储器)是GPU的关键组件,有助于处理复杂应用程序产生的大量数据,芯片垂直堆叠技术可以在节省空间的同时降低功耗。

目前,HBM的主要制造商只有三个——SK海力士、美光科技和三星电子。其中,三星电子于今年2月首次推出了HBM3E 12H。

三星HBM3E 12H支持全天候最高带宽达1280GB/s,产品容量也达到了36GB。相比三星8层堆叠的HBM3 8H,HBM3E 12H在带宽和容量上大幅提升超过50%。

“当前行业的人工智能服务供应商越来越需要更高容量的HBM,而我们的新产品HBM3E 12H正是为了满足这种需求而设计的,” 三星电子存储器产品企划团队执行副总裁 Yongcheol Bae 表示,“这一新的存储解决方案是我们研发多层堆叠HBM核心技术以及在人工智能时代为高容量HBM市场提供技术领导力而努力的一部分。”

HBM3E 12H采用了先进的热压非导电薄膜(TC NCF)技术,使得12层和8层堆叠产品的高度保持一致,以满足当前HBM封装的要求。因为行业正在寻找缓解薄片带来的芯片弯曲问题,这项技术将在更高的堆叠中带来更多益处。三星一直在努力降低其非导电薄膜(NCF)材料的厚度,并实现芯片之间的间隙最小化至7微米(µm),同时消除了层与层之间的空隙。这些努力使其HBM3E 12H产品的垂直密度比其HBM3 8H产品提高了20%以上。

三星先进的热压非导电薄膜(TC NCF)技术还通过允许在芯片之间使用不同尺寸的凸块(bump)改善HBM的热性能。在芯片键合(chip bonding)过程中,较小凸块用于信号传输区域,而较大凸块则放置在需要散热的区域。这种方法有助于提高产品的良率。

随着人工智能应用的指数级增长,HBM3E 12H有望成为未来系统的优选解决方案,满足系统对更大存储的需求。凭借超高性能和超大容量,HBM3E 12H将帮助客户更加灵活地管理资源,同时降低数据中心的总体拥有成本(TCO)。相比HBM3 8H,HBM3E 12H搭载于人工智能应用后,预计人工智能训练平均速度可提升34%,同时推理服务用户数量也可增加超过11.5倍。

关于量产进度,三星表示已开始向客户提供HBM3E 12H样品,预计于今年下半年开始大规模量产。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

0 阅读:0

袁遗说科技

简介:感谢大家的关注