数智时代敲门砖:华为云MaaS服务让中小企业AI应用如此简单

光锥智能 2024-09-04 12:34:13

文|白 鸽

编|王一粟

19.9元的数字人、29.9元的云数据库、195元10卡时包的MaaS大模型服务......

堪称企业级“双十一”的华为云828营销季,带着一众AI应用产品和云服务,杀疯了。

云计算叠加大模型的价格战,也正式进入了深水区,开启中小企业的争夺战。

作为中国市场经济的毛细血管,近年来中小企业通过上云加速自身数智化转型升级,已经成为行业发展共识。

对于绝大多数企业来说,拥抱数智化变革,已经成为“生存之战”。尤其在人工智能等新技术席卷全球的浪潮下,企业如果不能跟上时代的浪潮,势必会被市场逐步淘汰。

2024中国国际大数据产业博览会开幕式上,华为董事、质量流程IT总裁陶景文表示,数智新时代,AI将重塑千行万业。AI既是工具的革命,也是革命的工具,企业应对准主业成功目标,选择落地应用场景,用好AI工具,实现全面智能升级。

华为董事、质量流程IT总裁陶景文

但在AI大模型时代,想要训练一个自己的大模型产品,于中小企业而言也意味着高额的成本支出,“用不起”、“不敢用”则成为普遍现状。

针对这一现状,目前各大云厂商都在开展促销服务,更是掀起一轮轮价格战。但上云是持续的过程,最终影响用户持续购买的,还得是靠产品性能和服务。

中小企业,低成本拥有自己的大模型

在以大模型为基础技术的新AI时代,一个好的大模型,可以让企业的数智化转型事半功倍。

当前,使用大模型主要有两种方式:

一种是,调用成熟大模型API接口,直接使用大模型能力;

一种是,私有化部署或单独自己训练一个大模型;

前者的缺点是可定制化能力差,不能很好的满足企业的个性化需求;后者可定制化程度高,但大模型的开发不仅需要强大的算力,还需学习训练、部署的相关参数配置和规格选择等专业知识,对技术和研发能力要求极高,且投入成本于中小企业而言也难以负担。

要把算力直接部署在企业端,本身是件门槛极其高的事情,曾有云代理厂商告诉光锥智能,“预算要千万级起步,其次还要配备技术研发团队”。这就导致,从计算平台到客户之间便产生了一道鸿沟。

谁来填补这道鸿沟?

以华为云为代表的云厂商构建ModelArts Studio大模型即服务平台(后续简称MaaS),其能够提供简单易用的模型开发工具,支持大模型定制开发,能够让模型应用与业务系统无缝衔接,显著降低了企业AI落地的成本和难度。

“云厂商们推出MaaS服务与AI基础设施建设,能够让我们开箱即用,降低模型训练推理的复杂性,提升开发便捷性,并降低相关成本。”科大讯飞研究院常务副院长高建清对光锥智能说道。

华为云MaaS大模型即服务平台以昇腾AI芯片为核心,打造了一套针对大模型训练与推理的全方位优化解决方案,基于该解决方案大模型适配昇腾时间大大缩短,由“周”降低到“天”,使得开发者在平台可快速选择适合自己业务的30+适配昇腾云的主流大模型。

华为云MaaS平台模型广场首页

选择对应的大模型之后,需要进行模型的训练和优化,此时训练效率和大模型的一站式部署,成为了关键。

华为云MaaS大模型即服务平台已经沉淀了大量结合适配昇腾AI芯片,微调推理调参的经验案例。这使得,中小企业在华为云MaaS大模型即服务平台上,无需过多专业知识即可进行结合默认预置的最佳参数,进行模型微调,使大模型的整体训练时间能够大幅度缩短。

针对部署调用环节,以往部署模型和调用,需线下安装机器配置运维复杂度高,效果评测本地查看日志,耗时耗力。ModelArts Studio提供大模型平台化能力,一键部署,一键调用,支持快速查看调用指标、日志详情,免去各繁琐环节。

基于便捷的大模型API能力,开发者不仅可以对接到个人或企业的业务系统,华为云MaaS大模型即服务平台还联手企业搜索产品KooSearch,为中小企业实现了开箱即用RAG解决方案,能够帮助中小企业快速的一站式构建智能问答服务,或者联合数字人大脑,快速创建智能对话应用等。

价格与成本,永远是中小企业最敏感的一个板块。

此前企业想要使用大模型,必须先买云资源的服务包,整机价格也相当昂贵。而华为云可以在模型验证阶段,先使用再买卡,用户可以选择各种规格小卡,成本低,效率高。

同时,华为云还提供按需套餐包,针对使用MaaS平台的客户,可以在原卡资源规格的基础上,分10小时、100小时、500小时进行套餐包折扣购买,叠加其他优惠,大大降低了中小企业使用大模型的成本。

可以看到,华为云不仅把大模型应用的成本给打下来了,更重要的是把大模型的使用门槛和技术门槛都打下来了,这样才能真正让中小企业“用得起”、“用得上”大模型。

大模型和业务的深度结合,RAG是最佳连接器

业内皆知,大模型的发展,离不开高质量的数据“喂养”。

通俗的比喻来说,大模型可以看作是火车头,而企业数据则是火车的燃料,没有燃料火车也无法真正的运转起来。

现阶段,随着企业数智化转型进入深水区,数据呈井喷式增长,都知道数据是未来的“金矿”,但“金矿”如何开采是一大难题。

而只有将企业内部和外部的数据转化为有价值的知识,数据的“金矿”才能真正有价值。

此时,就需要一个能够将数据高效“投喂”给大模型的工具,RAG(检索增强生成)无疑是最合适承担这一角色的技术。

RAG是一种结合检索和生成技术的模型,通过引用外部知识库的信息生成答案或内容,具有较强的可解释性和定制能力,适用于问答系统、文档生成、智能助手等多个自然语言处理任务中。

RAG模型的优势在于通用性强、可实现即时的知识更新,以及通过端到端评估方法提供更高效和精准的信息服务。

那么,RAG究竟是如何牵引大模型和企业数据之间的联动,让大模型更适配业务发展呢?

以华为云Flexus企业搜索服务为例,这是基于华为云的云搜索服务搭建的一站式智能搜索解决方案,能够满足企业基于业务场景做二次开发。

华为云Flexus企业搜索产品架构

企业的数据往往形式并不单一,有结构化的数据,也有非结构化的数据。

华为云Flexus企业搜索基于搜索大模型、云搜索服务的高性能GaussDB向量数据库以及LLM大模型,三者共同组成了RAG解决方案,能够导入非结构化或者结构化业务数据,对企业文档内容进行智能解析,并通过OCR增强功能准确识别图片/表格等各式版面布局,保证各种形式的企业数据都能够利用起来。

其中,华为云GaussDB向量数据库内置ANN算法,在当前业界最权威的ANN-Benchmarks测试中荣获第一。ANN算法QSG-NGT在6个数据集中的5个获得了最优性能,在部分数据集高精度区间相比第二名有50%-100%的QPS提升。

而在大模型大规模应用落地过程中,向量数据库解决了大模型知识更新速度慢、数据隐私不可控和没有“长期记忆”等问题,突破了大模型在时间和空间上的限制,既是企业数据和大模型之间的“连接器”,也是大模型走向行业深度应用的“助推器”。

通过搜索增强大模型,生成的问答结果更可靠、安全,这对企业级用户来说是迈过了“真正能用”的关键及格线,解决了大模型“内行一用就觉得外行”的问题。

好处这么多,那么,RAG解决方案到底具体能用来做什么呢?

对内,RAG方案能够将企业积累的数据汇聚在一起,组建企业自己的知识库体系,同时还能够基于企业知识库帮助企业打造更懂企业的数字员工。

对外,RAG方案则能够整合企业数据和外部数据,可以帮助企业构建在智能客服、数字人、论坛社区等应用的搜索与问答,能够帮助企业一站式搭建知识问答、客服助手、办公助手、车机助手、信贷助手、编辑助手等。

比如在金融行业中,传统的客服依赖人工,很难做到24小时在线解答用户问题。而通过整合银行的相关制度规定,以及国家关于金融政策相关法规标准,基本上能够覆盖用户大部分相关问题,而通过将智能客服与人工客服相结合的方式,不仅能让企业节省大量的成本,也能够给用户带来更好的体验效果。

智能客服并不是一个新鲜事,但在大模型能力的加持下,用自然语言交互和端到端语音更自然、延迟也更低的情况下,智能客服会越来越接近人类客服,不会出现各种听不懂、机器音,回答只能靠模板的问题。

智能化BI,数智化经营的最强助手

企业的数智化转型,是从组织架构到业务体系同步发展,不能够顾此失彼。

于中小企业而言,如何借助专业的工具,将企业内外数据转化为有价值的知识,让管理者更好的了解企业的运营情况、市场趋势、客户需求等信息,并进行科学的管理决策,也至关重要。

因此,集数据采集、存储、处理、分析和可视化于一体的软件系统BI工具,堪称是企业提升“数智化经营”的最强助手。而在大模型浪潮下,BI工具也在加速向新一代智能洞察演进。

传统的BI工具面临着技术门槛高,一般业务人员无法上手实现数据的自主分析,需要内部工程师调教开发,各部门反复沟通确认,数周甚至数月才能拿到数据分析结果。

同时,使用传统BI工具制作报表或交叉表,单个大型报表需访问数据库表多达70+,存在响应慢的性能问题,这也导致业务时效性差。

最为重要的的一点在于,传统BI工具不够智能,其仅能满足简单的统计分析报表、大屏,仅能对事实数据进行可视化呈现,对业务问题的根因分析、趋势预测等,无法有效支撑。

所以,在大模型时代,企业,尤其是中小企业,需要新一代BI智能分析助手。

华为云智能数据洞察DataArts Insight的产品架构

华为云Flexus智能数据洞察基于盘古大模型,提供可视、实时、易用、安全的企业智能分析服务,解决了传统BI工具的技术门槛高、不够智能和业务时效性差的问题,还可提升大模型的调优效率和推理准确度1~2倍,支撑业务实时高效决策。

具体来说,华为云Flexus智能数据洞察能够基于盘古大模型,实现全自然语言交互的BI自助分析,让一般业务人员和管理者也能轻松获取和分析数据,实现“0”门槛自助分析。

同时,通过将数据与盘古大模型进行融合,深入挖掘数据价值,支持异常检测、根因分析、趋势预测等,通过自动分析洞察见解和专题故事生成,辅助业务管理者高效决策。

而在反应速度上,其通过高性能BI引擎支持多种加速模式,实现10亿数据秒级响应,为使用者提供极致顺滑体验。

于中小企业而言,华为云Flexus智能数据洞察还能够支持将可视化图表和盘古for BI智能问答机器人嵌入到企业自身的SaaS应用界面中,使能SaaS应用智能化升级,提升用户体验,并催生新的盈利机会。

智能BI得到应用后,将实现业务中任何人在任何时候、任何位置,能够以最自然高效的方式对任何格式数据进行消费,支撑业务实时决策。

对于基层员工而言,通过固定格式报表及自助查询提高工作效率;面对中层管理者,通过即席分析可以支持业务决策;面对高层决策者,则可以通过管理驾驶舱把握企业实时状态。

综上来看,在中小企业的数智化转型中,大模型是底层基础设施能力,RGA则是连接大模型和企业数据的桥梁,让企业在产品能力上实现数智化转型升级。

而智能BI工具则是在大模型和企业数据知识库体系下,面向企业内部应用管理数智化升级的关键,能够帮助企业在海量数据中快速发现规律,进一步挖掘数据价值,洞察业务的过去与未来,高效辅助经营决策。

结语

在AI大模型之前,企业上云往往是成本;大模型之后,企业上云就变成了提质增效的动力引擎。

这样的转变,让中小企业转型的动力更加明显,对云厂商来讲也是一个极大的利好——市场需求变多了。

从上面可以看到,华为云针对中小企业推出的几款新产品,都是切中了数智化转型的要害。

从大模型,到RGA,再到智能BI工具,无疑已经构建起了中小企业数智化转型从内到外,从企业组织架构到企业产品能力的体系化升级。

这三款产品,可以说是数智化转型的AI三部曲,帮助中小企业奏响“提质增效”的业绩高歌。

0 阅读:2

光锥智能

简介:关注AI产业,关注千行百业的智能化