IT之家2月27日消息,高通公司今天宣布,将在生成式AI在企业级场景落地方面与IBM进行合作,高通表示,双方将共同打造适用于企业的生成式AI解决方案在云端和边缘侧终端的应用。
具体来说,在即将于3月3日至6日在西班牙巴塞罗那举行的MWC2025(世界移动通信大会)上,高通将联合IBM展示双方合作打造的在边缘侧运行的IBMwatsonx.governance和GraniteLLM大语言模型。它既可以在搭载骁龙8至尊版的终端上运行,也可以在高通跃龙AI本地设备上运行。
高通已经在2月25日发布了全新产品品牌——高通跃龙(QualcommDragonwing),主要涵盖公司旗下的工业及嵌入式物联网、网络和蜂窝基础设施解决方案。
同时,高通宣布IBMGranite3.1大模型已经经过优化,目前可以通过高通AIHub获取,支持开发者打造在终端侧就可以运行的适用于企业的全新AI应用。
此外高通还表示,高通CloudAI系列推理加速器已通过OpenShift认证。这能够支持IBM的软件应用程序套件(包括watsonx.governance)在高通CloudAI平台进行部署,主要使用的是目前非常普及的RedHatOpenShift容器。
高通称,目前他们正在战略性地引领并充分利用从AI训练到大规模推理向边缘侧部署的转型,另外我们也可以充分利用AI计算处理从云端向终端侧的扩展。高通具备开发定制CPU、NPU和GPU的丰富经验,从而能够实现高性能、高效率的AI推理。