自2023年通信运营商入局AI大模型以来,一年的时间内,中国电信、中国移动、中国联通三大运营商集体完成了新一轮的大模型进化,特别是围绕大模型开始重构通信业研发与应用,加速推动技术革新和产业升级。那么,运营商究竟需要怎样的通信大模型?
三大运营商:在大模型赛道上殊途同归
随着企业数智化进程的加快,AI必将成为社会基础设施之一。可以看到,运营商把战略重点放在行业大模型,加速智能化应用落地。
在云业务市场份额最高的中国电信尤其重视模型基础能力的建设,中国电信很早就提出了“1+1+1+M+N”的战略,即1个智算云底座、1个通用大模型底座、1个数据底座、M个内部大模型、N个行业大模型。其星辰语义大模型的发布也让中国电信形成了从语义、语音、视觉到多模态一整个全模态完备的大模型布局。
中国移动发布了全栈国产化生态大模型“九天智能基座”,包括万卡算力、千亿模型及百汇平台三部分。九天智能基座大模型在11个领域的模型评测均拿下了最高成绩,其能力达到GPT-4的90%。此外,中国移动已布局17个细分领域行业大模型,覆盖政务、医疗、办公等场景。
中国联通发布了元景“1+1+M”大模型体系,即1套基础大模型、1个大模型底座、M种行业大模型的大模型体系。元景MaaS平台可以提供模型库、工具箱、原生应用商店三大服务,其中模型库中内置了包括通用大模型、工业领域大模型、基础小模型等超150个模型。
亚信科技首席技术官兼高级副总裁、IEEE Fellow欧阳晔博士在接受《通信产业报》全媒体记者采访时表示,目前看来,中国各通信运营商在大模型的赛道上的路径选择殊途同归。首先,构建大模型MaaS平台,有效管理算力与模型服务;其次,基于高质量行业数据,打造行业大模型提供专业的AI服务能力;最后,基于行业大模型完成应用创新,加快数智化转型。
其中,基于云网融合的大模型MaaS平台。运营商凭借着算网融合、云网融合的能力,夯实了AI底层基础设施能力,覆盖到绝大部分有数智化需求的政企客户,构建了运营商独有的优势,为其布局大模型奠定了坚实的基础。之后,各大运营商纷纷以云计算的模式构建大模型MaaS平台。
具有专业认知能力的行业大模型。无论是通用模型、智算中心还是MaaS平台,运营商的终极目标是通过打造政企领域多个纵深、垂直的行业大模型,实现快速落地与变现。中国电信首先推出形成教育大模型,继而发布了政务服务、基层治理、医保等12个行业大模型。中国移动基于九天大模型,推出20余款面向政府治理、工业生产、民生服务和通信特色等领域的行业大模型。中国联通推出了覆盖装备制造、仓储物流、电力、钢铁等十多个行业大模型。
基于大模型的AI+创新应用。客服一直是运营商的主要业务方向,也是智能化程度渗透较高的行业。基于多年在客服领域的深耕,三大运营商沉淀了平台的能力,积累了丰富的经验和海量的数据,为客服大模型的训练提供了肥沃的土壤。同时,在大模型技术的加持下,通过发挥大模型多模态、拟人化交互等优势,三大运营商不断提升智能客服的能力和相关产品,极大降低了人工客服答复时间和辅助人工思考,提高了用户使用的体验感。
亚信科技:做行业专属大模型
通用大模型落地垂直行业有鸿沟、缺乏统一纳管造成重复建设、缺少快速落地的方法和工具等问题,是制约大模型广泛应用的主要障碍。亚信科技认为,适配行业场景和需求的大模型才是好模型。因此,亚信科技不做通用大模型,而是聚焦行业,做专属大模型。
据了解,亚信科技立足通信、政务、能源、交通等垂直行业真实场景,综合考量“行业专属、数据安全、持续迭代、综合成本”等因素,聚焦“平台、模型、工具”三个层面,建立面向行业认知增强的大模型“1-3-8”产品体系,将依托“全栈AI”快速赋能垂直行业。
1是指大模型研发的底座平台,一个通用人工智能与认知增强平台。TAC MaaS平台是通用人工智能AGI赋能应用的基础平台,提供了行业差异化的能力,为大模型提供国内外的异构算力的支持。TAC MaaS提供了为大模型的训练和推理实现优化和加速的PaaS for AI的能力,实现了通用知识和行业认知的三个融合增量,即:大模型与行业知识库的融合增强,大模型与存量的IT网络小模型的融合演进,业务流程能够与亚信科技的自主代理、自主智能体功能的融合增强,完成整个业务流程的自动化、智能化的全流程闭环。而AI Agent是亚信科技打造AI原生的核心,TAC MaaS可以一站式的可视化的来构建AI原生应用的智能体。
同时,基于TAC MaaS大模型研发底座平台,亚信科技还发布了3个行业大模型——编程大模型、自智网络大模型、智能运维大模型。其中,“渊思·编程大模型”可以支撑行业专属场景的代码生成注释、代码总结、单元测试生成等10余项编程任务;“渊思·自智网络大模型”能够支撑网络状态实时分析、网络故障识别、网络投诉处理等网络全生命周期智能化能力;“渊思·智能运维大模型”则会提供客户投诉处理、运维工单处理、运维知识问答、运维决策执行等全方位智能运维服务。
8则是指亚信科技为企业提供了8个工具,包括渊思慧见·业务智办副驾(ChatCRM)、渊思慧见·自智网络副驾(AN CoPilot)、渊思慧见·商业智能增强分析工具产品(ChatBI)、渊思慧见·知识对话机器人(ChatBots)、渊思慧见·图灵程序员(TuringCoder)、渊思慧见·智能运维副驾(Ops CoPilot)、渊思慧见·任务编排自动化工具(RPATaskGPT)、渊思慧见·数据管治副驾(DMG CoPilot),这些工具便于嵌入到企业的具体流程和交互场景中,用于解决企业应用的最后100米。
渊思大模型目前在各行各业已经形成了70+的落地商用案例,目前是以通信行业为主,在其他的垂直行业,比如能源行业、交通行业,也正在逐渐落地。在实际的商业化落地案例中,亚信科技在充分理解客户需求和痛点的基础上,通过大模型有效为客户的业务场景进行注智赋能。
依托“全栈AI”:亚信科技大模型助力运营商业务创新
亚信科技在通信人工智能领域基于渊思慧见行业大模型融合原有在通信运营商客服、营销,以及网络等多领域的精确小模型和业务知识,创新性的提出了AI Native重构软件产品的理念,这是一套基于第一性原理以通用人工智能(AGI)为核心重构数字化系统的方法论和技术体系,用于助力运营商业务创新,赋能企业数智化转型。
基于这一理念,亚信科技将原有的云原生平台即服务PaaS(Platform as a Service)升级到模型即服务MaaS(Model as a Service)完成技术跃迁,并在渊思慧见·TAC MaaS平台上推动业务系统从微服务(Microservice)到智能体(AI Agent)的设计模式变革,同时也基于渊思慧见·代码大模型和渊思慧见·运维大模型推动从DevOps到增强型软件开发生命周期SDLC(Software Development Life Cycle)的研发工程管理演进。
欧阳晔博士坦言,简而言之,我们基于渊思慧见大模型助力运营商完成了核心使能技术、应用设计模式和研发工程管理的升级,并提供一系列工具产品提升了生产力、优化了生产关系。
如某省级运营商引入亚信科技智能运维副驾(OpsCoPilot)工具,构建“厅厅通”智能服务平台,辅助进行工单拦截,成功提升了该省级运营商的工单拦截率,大幅压缩了大量无效和重复工单在系统中的流转,有效提升了“厅厅通”智能服务平台的运营效能。根据最新的效果数据,目前“厅厅通”智能服务平台,在保证超过95%的问答成功率基础上,最高实现了55%的工单拦截率,远超30%的业界平均水平。
欧阳晔博士指出,在大型模型时代,AI技术的高成本和复杂性引入了新的挑战,企业需要同时关注技术的可行性、成本管理,以及产品市场的契合度。我们会以大模型产品落地为目标,采用TC-PMF更全面、更综合的评估通信大模型的竞争力,帮助我们在技术、成本、产品和市场之间找到最佳平衡,实现可持续发展。
一方面,数据要素流通优化。数据是训练和部署大型模型的基石。在通信行业中,数据来自各种渠道,包括用户设备、网络设备、传感器等。为了优化数据要素流通,我们需要进一步考虑加强数据清洗和标准化,确保数据质量高,消除噪声和错误。这有助于提高模型的准确性和稳定性。促进不同公司和组织之间的数据共享和协作,以便更好地训练模型。数据共享可以通过隐私保护协议和技术来实现。
另一方面,算力网络发展。大型模型需要强大的计算资源来训练和推理。在通信行业中,我们首先可以考虑以下方面投资于高性能GPU、TPU等设备,以加速模型训练。其次是优化分布式计算和边缘计算,将计算任务分布到多台设备上,以提高计算效率。边缘计算也可以在离用户更近的位置进行模型推理,减少延迟。