高带宽内存 (HBM) 的第一次迭代受到一定限制，每个堆栈仅允许高达 128 GB/s 的速度。然而，有一个主要警告：由于物理限制，使用 HBM1 的显卡的内存上限为 4 GB。然而，随着时间的推移，SK Hynix 和三星等 HBM 制造商已经改进了 HBM 的缺点。

HBM2 将潜在速度提高一倍，达到每堆栈 256 GB/s，最大容量达到 8 GB。 2018 年，HBM2 进行了名为 HBM2E 的小更新，进一步将容量限制提高到 24 GB，并带来了另一次速度提升，最终达到每芯片 460 GB/s 的峰值。

当 HBM3 推出时，速度再次翻倍，每个堆栈的最大速度为 819 GB/s。更令人印象深刻的是，容量增加了近三倍，从 24 GB 增加到 64 GB。与 HBM2E 一样，HBM3 也经历了另一个中期升级 HBM3E，它将每堆栈的理论速度提高到 1.2 TB/s。

一路走来，消费级显卡中的 HBM 逐渐被更实惠的 GDDR 内存所取代。高带宽内存成为数据中心的标准，专注于工作场所的卡制造商选择使用更快的接口。

在各种更新和改进中，HBM 在所有迭代中都保留了相同的 1024 位（每个堆栈）接口。据韩国的一份报告称，当 HBM4 上市时，这种情况可能最终会改变。如果该说法属实，内存接口将从 1024 位增加一倍至 2048 位。

理论上，跳至 2048 位接口可以使传输速度再次加倍。不幸的是，与 HBM3E 相比，内存制造商可能无法保持 HBM4 相同的传输速率。然而，更高的内存接口将允许制造商在卡中使用更少的堆栈。

例如，Nvidia 的旗舰 H100 AI 卡目前使用六个 1024 位已知良好的堆叠芯片，可支持 6144 位接口。如果内存接口增加一倍至 2048 位，理论上 Nvidia 可以将芯片数量减半至三个，并获得相同的性能。当然，目前尚不清楚制造商会采取哪条路径，因为 HBM4 几乎肯定距离量产还需要数年时间。

SK 海力士和三星都相信，当他们开始制造 HBM4 时，他们将能够实现“100% 的良率”。只有时间才能证明这些报道是否成立，所以对这个消息持保留态度。