IBM近日宣布了一项革命性的光学技术突破,该技术能够以光速训练AI模型,并在数据中心应用中显著节省能源。据IBM介绍,通过应用这一突破性技术,数据中心在训练AI模型时节省的能源量,相当于5000个美国家庭的年度能源使用量。
在数据中心内部,尽管它们通过光纤电缆与外界实现高速连接,但在数据中心内部,传统的铜线连接仍然占据主导地位。这些铜线连接着GPU加速器,这些加速器在等待来自其他设备的数据时,往往会花费大量时间处于空闲状态,这不仅消耗了大量的能源,还增加了数据中心的运营成本。
为了解决这个问题,IBM推出了共封装光学器件(CPO)原型。这一技术通过显著增加数据中心的带宽,最大限度地减少了GPU的停机时间,从而实现了AI处理的加速。IBM高级副总裁兼研究总监DarioGil表示:“由于生成AI需要更多的能源和处理能力,数据中心必须不断发展。同封装光学器件可以使这些数据中心面向未来,开启一个更快、更可持续的通信新时代,能够处理未来的AI工作负载。”
据IBM介绍,其新的CPO技术不仅提高了数据传输速度,还显著降低了大型语言模型(LLM)的训练时间。原本需要三个月的训练时间,现在可以缩短到三周。此外,提高能源效率也降低了能源使用量,从而减少了与训练LLM相关的成本。