生成式AI新助力:IBM携手AMD明年部署推出MI300X加速器服务

IT之家 2024-11-19 09:00:59

IT之家11月19日消息,IBM公司昨日(11月18日)发布公告,宣布和AMD公司达成合作,计划在IBMCloud上部署AMDInstinct™MI300X加速器服务(acceleratorsasaservice)。

此项服务预计将在2025年上半年推出,目标是提升企业客户在生成式AI模型和高性能计算(HPC)应用中的性能和能效。

IBM表示通过此合作,其watsonxAI与数据平台,以及RedHatEnterpriseLinux(RHEL发行版)的AI推理支持也整合MI300X加速器。

IBMCloud将提供AMDInstinctMI300X加速器,以支持企业客户处理计算密集型工作负载。

IT之家援引新闻稿,MI300X加速器配备192GB高带宽内存(HBM3),能够支持大型模型的推理和微调,帮助客户以更少的GPU运行更大的模型,降低推理成本。

此外双方将利用IBMCloud的安全性与合规性能力,以支持各行业的企业客户,尤其是那些受到严格监管的企业。

0 阅读:29