对话|从通信运营商到AI“国家队”中国电信AI7.9%市场份额背后是科技创新

(记者林碧涓)国际数据公司(IDC)于近日发布了《中国大模型应用市场份额,2024:格局巨变》回顾了2024年大模型应用落地进展,其中“中国电信AI”以7.9%的市场份额位列第六名,成为了唯一一家进入大模型市场份额Top8的电信运营商。

在“百模大战”的竞争中,作为运营商的中国电信如何在一众科技企业中突出重围?在人工智能蓬勃的当下,如何推进“人工智能+”战略,以释放AI强大效能?带着这些问题,与中电信人工智能科技有限公司相关产品负责人进行交流,从中梳理中国电信在落实“人工智能+”战略中的思考与布局。

黑马崛起:全栈优势铸就AI能力

从手机应用到政务服务,从企业到政府,接入大模型已成为了行业数字化发展中的重要工作之一。自2018年起,AI技术进入“大模型”发展时代,国内大模型发展如火如荼,呈现出“百模大战”局面。2024年“人工智能+”行动等政策有力支持,让国内大模型迎来了商业化落地的关键期。IDC报告显示,2024年中国大模型应用市场规模达47.9亿元。在百度、阿里云等科技巨头环伺下,运营商中国电信异军突起,凭借着自身在算力、数据、渠道优势与长期积累,在2024中国大模型应用市场获得一席之地。

兵马未动,粮草先行。要训练出高质量的大模型和满足推理需求,高效的算力必不可缺。自2020年以来,中国电信全面落实国家“东数西算”战略,持续推进数字信息基础设施建设,为人工智能的发展打下了坚实的基础。依托“2+3+7+X”智算云池布局,中国电信建成京津冀、长三角的两大万卡智算集群,形成280多个地市节点与1000多个边缘节点的立体网络;借助自研的算力一体化调度平台“息壤”构建全国一体化算力网络,通过算力加速技术和AI训练框架,提升了模型训练效率。当前,中国电信已接入50家算力合作伙伴,自有和接入的智能算力合计达到62EFLOPS。

大模型的发展需要“数据粮食”,其中高质量数据集则是人工智能核心“资产”。运营商天然具备海量用户行为数据和行业场景数据优势,为大模型的精准训练提供燃料。“在政务、工业、医疗等垂直领域中国电信已积累了PB级别的数据资源。”中电信人工智能科技公司标品部总经理助理刘铠瑞介绍道。

而在大模型应用渠道拓展方面,凭借遍布在31省市的政企客户网络,中国电信精准捕捉用户需求,高效匹配,实现大模型应用从“最后一公里”到行业纵深覆盖。

破局秘籍:深耕应用场景释放效能

人工智能发展需要扎根产业土壤。在大模型多样化应用中,通用大模型并非万能,其往往发挥着核心支撑作用,在面向更深层次多样化任务需求时,则需要进一步定制化开发和测试,促使大模型真正实现“扎进业务毛细血管”。

中电信人工智能科技有限公司产数业务部总监万仁辉指出,“在大模型具体应用中,个性化的需求往往通过提示词、RAG(搜索增强生成)知识库挂载文档、大模型微调三种方式实现。”其中,RAG通过引入外部知识库,可以动态扩展模型的知识;微调则是调整模型参数,让模型更加贴合特定任务的实际需求。在垂直行业场景应用中,通常采用“大模型+微调+RAG”的组合模式,以满足高精度、复杂任务的严苛要求。

以政务服务为例,以往政务热线在受理、派单过程中,话务员需在接听电话的同时梳理问题、编写规范工单,并确保派送到正确部门,整个过程耗时耗力。中国电信基于自研的星辰大模型,运用RAG挂载全国政务知识文章以及本地化政务知识,并用本地知识数据和本地用户问题数据进行微调,“这样大模型整个底层的能力在政务领域相比通用模型,知识更加丰富,回答也更加符合政务热线规范性和本地化的要求。”万仁辉分享道,星辰政务大模型在广东某市12345热线应用后,不仅大幅提升热线运营效率和市民感知,同时也降低运营成本,预计每年节省约接近千万的人工运营成本。

为进一步降低大模型使用门槛,中国电信推出系列标准化产品与方案。针对办公场景的星辰慧记融合语义与语音大模型,提供实时转写、离线转写、阅读助手等功能,两小时会议仅需3分钟即可生成要点总结与待办事项,还可助力企业积累形成相关知识库,实现从“人找知识”到“知识找人”的范式转变。面对标准化应用产品快速部署需求,中国电信同步开放了基于大、小模型的标准化应用的API接口;星辰大模型一体机方案可通过私有云端到端交付实现“开机即用”,兼顾灵活性与安全性,“通过模型蒸馏+预集成硬件+套餐化服务组合,中小企业部署成本可压降至传统方案10%-20%”,刘铠瑞表示。

目前,中国电信已打造“1+1+1+M+N”人工智能体系,自主研发打造了国内领先、央企首个“全模态、全尺寸、全国产”的星辰大模型体系,推出50余个行业大模型,服务超1万家行业客户,深入推进13个内部大模型在客服、网运、办公等企业管理运营环节的嵌入及应用,助力企业降本提质增效。值得一提的是,中国电信在去年成功推出支持50种方言自由混说的语音识别大模型后,今年将再度发力,持续拓展语言交互边界。

生态突围:推进AI惠普应用落地

IDC中国研究总监卢言霞表示,2025年将迎来AI应用全面开花的一年,更便宜更好用的大模型、低代码零代码易上手的应用开发工具、传统应用的重构以及全新的生成式AI应用,将开启大模型对企业数字化系统全面重构的一年。

在人工智能蓬勃发展的浪潮中,AI向实、AI普惠是一个宏大的命题。中小企业对大模型等前沿技术的应用需求日益强烈。然而,受限于技术门槛高、部署成本大、场景适配难等多重因素,中小企业拥抱“AI+”困难重重。

智能体作为一种预构建、封装好功能的AI应用形式,其降低技术门槛的同时,实现大模型的快速部署与迭代,成为中小企业拥抱AI的一个窗口。“基于智能体平台,调用大模型API,通过自主规划和工作流两大模式解决大模型落地痛点,中小企业可以快速构建企业应用能力。”刘铠瑞说道。在去年底,中国电信推出了星辰智能体平台,可提供零代码的智能体构建能力,1分钟即可完成智能体创建和发布,目前已积累超过15个行业应用。

随着大模型的不断发展,智能体技术也将继续更新迭代,持续拓宽人工智能应用场景。据刘铠瑞透露,今年,中国电信将推出基于AI大模型打造星辰智能体——星小辰。以通话场景为例,星小辰可实现通话中的实时翻译、语音转文字,通话后生成摘要及待办等功能。目前星小辰智能体主要聚焦通话、办公、生活三类场景,可跨多端使用,未来会逐步覆盖更多场景。

“人工智能+”在于要将技术创新与产业需求紧密连接,中国电信人工智能究院(TeleAI)正在推进智传网(AIFLow)技术研究,目标通过网络和通信将“端-边-云”高效串联,让智能可以在家居生活、生产制造、农林维护、海洋勘探等多种场景发挥巨大价值。智传网(AIFLow)是通过网络分层架构,基于智能体间的连接,以及智能体和人的交互,实现智能传递和涌现,是人工智能领域的一项落地关键技术,正成为国家人工智能基础设施的大势所趋。据了解,TeleAI正以智传网(AIFlow)与AI治理、智能体、智能光电为核心,形成“一治+三智”的完整科研布局,希望通过AI驱动包括赛博空间、临地空间、广域空间在内的“三大空间经济”发展,不断拓展人类的活动边界。

中国电信AI突围背后是其厚积薄发、深耕细作的成果。从夯实算力基础、紧握数据优势,到扎根产业土壤,中国电信正一步一个脚印,在科技竞赛的赛道上稳步疾驰。

0 阅读:0