彩讯股份:AI原生云计算解决方案AICloud已在多个千亿参数级别的大模型训练等方面成功落地

每日经济新闻 2024-12-04 22:50:28

每经AI快讯,12月4日,彩讯股份发布投资者关系活动记录表,今年以来,彩讯股份积极布局AI算力业务,构建了AI原生云计算解决方案AICloud。方案融合了三层架构,在底层,RichNet下一代AI原生云计算架构,构建了先进的算力网络组网方案,助力快速构建高性能算力集群;在中层,RichMoss超大规模算力集群管理平台,通过计算抽象能力+高级调度功能,优化地运行各种AI负载,最大化提升算力利用率;在顶层,RichBoost高性能大模型训推平台,提供开箱即用的推理加速能力,大幅降低模型的部署成本。基于此方案,GPU集群峰值算力利用率最高可达55%,可为客户节省25%以上网络设备成本投入,目前,该解决方案已在多个千亿参数级别的大模型训练、大模型推理、AI工具加速等方面成功落地。

0 阅读:2

每日经济新闻

简介:中国主流财经全媒体