从芯到云上海电信算力超市打造纯国产DeepSeek专属空间

金台资讯 2025-02-07 11:06:53

蛇年开春,国产AI大模型DeepSeek成功抢了春节的“风头”,成为这段时间最火的“中国力量”。

“小而美”且开源的DeepSeek不仅让全球开始反思“大力出奇迹”的OpenAI路线,也为国产算力芯片和云服务商打开通往AGI(通用人工智能)的另一扇窗。

短短两周内,DeepSeek被广泛部署于各大云平台。2月6日中午,中国电信天翼云宣布,其自主研发的“息壤”智算平台率先完成国产算力与DeepSeek-R1/V3系列大模型的深度适配优化,成为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台。

“从国产算力芯片到国产云服务商,再到国产大模型,国产AI完成了生态上的百分百闭环。”天翼云相关人士表示。

除了可以在云平台上直接体验国产算力支持的DeepSeek,企业或者个人用户也可以登录上海电信公共算力服务门户—算力超市,直接租用国产智算单卡,在容器环境内基于不同基础框架进行DeepSeek大模型部署、调试,打造自己专属的DeepSeek空间。

全栈国产化适配

高效和合规都要

作为首家完成DeepSeek大模型国产化适配的运营商,天翼云“息壤”智算平台从昇腾硬件、推理引擎到模型服务,实现了技术链路的100%国产化,确保全栈自主可控,保障了企业数据安全与业务合规。

据了解,通过自研推理加速引擎,天翼云“息壤”智算平台实现了DeepSeek-R1系列模型的极致性能释放,实测下来,昇腾国产算力显示推理性能与主流高端GPU持平。

这意味着,通过国产大模型算法创新和国产算力芯片加速,中国用户终于可以放心在选择时兼顾高效与合规。

据天翼云透露,在“息壤”智算平台上部署的DeepSeek-R1模型,基于昇腾实例,实测了一个涉及高等数学与物理学的复杂综合问题,该问题不仅需要模型具备强大的数学推理能力,还要求其能够理解并应用物理学中的概念,结果令人满意。

“满血”还是“蒸馏”?

任你选

最近几天,随着DeepSeek在多国应用市场登顶,官网时不时显示“服务器繁忙”,于是各家部署DeepSeek的平台便成为人们体验DeepSeek的主流方案。

DeepSeek模型有满血版和蒸馏版之分,所谓满血版是与DeepSeek官网性能一致的V3和R1的全量参数模型。而蒸馏版能将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。受限于算力,不少平台选择部署蒸馏版,但体验效果也大打折扣。

天翼云选择了“全家福”。从DeepSeek-R1满血版(671B参数)至轻量化蒸馏模型,天翼云统统都有,覆盖了用户从复杂决策到高并发交互的全场景需求。用户无需复杂配置,通过API接口即可轻松调用,快速集成到各类应用场景。

即日起,用户登录天翼云官网,进入“息壤”智算平台专题页,即可申请免费API密钥与云镜像试用。

纯国产本地化部署

算力超市更便宜

上海区域的用户,如果想更好地本地化部署DeepSeek,则建议登录上海电信的公共算力服务门户—算力超市。

据了解,产品研发团队现已基于国产昇腾芯片完成DeepSeek-R1模型运行验证。用户可基于公共算力超市提供的主打产品—智算单卡/多卡服务,独享智算资源,在容器环境内,基于不同基础框架自行进行模型部署、调试DeepSeek,快速开发专属智能应用。

比如一些科研机构或者创意公司,可以直接购卡进行DeepSeek推理部署,将已经调优好的大模型做成镜像,在单卡上跑测,随需购买,按时付费。

同时,团队也正在积极探索DeepSeek共享服务模式,以进一步降低公共算力的使用门槛。

0 阅读:14
金台资讯

金台资讯

报道全球 传播中国 人民网股份有限公司