金融行业大模型(LLM)应用研究

以云看科技 2024-09-12 06:23:54

摘 要

金融业已成为我国信息化程度最高、信息技术应用最密集的行业之一,以大型银行为代表的多家上市银行在2023年年报中披露,六家国有大行金融科技投入首次突破1200亿元,共计1228.22亿元,同比增长5.38%。多家银行在2023年年报对金融科技的下一步战略部署中,大模型、生成式人工智能(AIGC)等技术被反复提及。大模型技术因其强大的理解能力和生成能力,仅需零样本、小样本学习就可以达到很好的效果,大幅降低中小银行应用人工智能的技术门槛。这使得各类银行金融机构重新站在同一起跑线上,争先在大模型技术驱动的金融新质生产力下发展竞争优势。本文通过研究大模型在金融行业的落地应用来帮助读者了解大模型技术给金融行业带来的创新成果,同时在如何将大模型技术与自身业务工作结合以提升效率和创造机会方面提供一些启示。

图1 大模型应用范式

当前大模型的应用领域根据其智能化程度和自主工作能力划分为三个类型:Chatbot(聊天机器人)、Copilot(辅助驾驶)和Agent(人工智能代理)。Chatbot是指由人类完成大部分工作,人类向大模型问询意见、了解信息,大模型提供信息和建议但不直接处理工作,典型的案例如知识问答。Copilot的概念是从自动驾驶领域迁移而来,在大模型领域也可以称为智能助手,该类型应用‌将大模型的能力融入具体应用场景,人类进行目标设定,‌大模型助手理解人类意图并提供成型方案,再由人类进行修改调整及最终确认。Agent则是大模型根据人类的目标或任务自主地进行规划和执行,大模型能像人类一样形成独立的决策和行动方案。本文大模型应用研究结合了国内主流大模型厂商百度、阿里、智谱在金融行业的落地应用及大模型应用领域的范式,总结如下:

知识问答(Chatbot)

知识问答属于典型的Chatbot类型的应用,基于大模型的语言理解与生成能力,结合企业内各部门知识,构建多轮对话机器人,实现交互式问答。相较于传统的知识检索,对于检索人员的意图理解有限。基于大模型的知识问答,能有效理解用户的搜索意图,并结合上下文和多轮问答进行意图修正,对检索到的碎片化知识进行归纳,大幅提升了检索效率和检索体验。典型的应用场景包括内部员工对规章制度的检索、运营人员对指标的检索、人工客服对产品与服务细节条款的检索等。大模型在意图理解、多轮上下文理解和总结归纳方面的优势使得知识检索问答与大模型技术的结合具有天然的优势,这也使知识问答成为金融行业应用最广泛的类型,在国有大行、股份制银行、保险、证券等行业均有落地应用。

图2 知识问答应用架构

辅助写作(Copilot)

金融行业文档工作量大,对数据的严谨性、内容规范性及专业性要求较高,而大模型的辅助写作方案可有效为一线分析师、客户经理分摊写作负担。基于大模型基础模型无法直接完成专业性的报告,需要定制专业的模版和工作流,结合提示词工程约束和知识增强(RAG)完成初稿,且需要经过人工校验和完善才能形成终稿。典型的应用场景示例如下:

1)投研报告,某头部证券公司基于大模型和内部知识库结合定制模版生成投研报告;

2)尽职调查报告,某国有大行基于大模型能力智能化解析包括客户信息、交易信息、尽职调查信息等50+字段,生成客户风险交易尽职调查报告;

3)客户投顾画像,某头部证券公司基于大模型的能力和客户的信息为投顾经理生成全面的客户资产情况和投资情况画像,使初级投顾经理也能快速达到中等投顾经理的水平。

代码助手(Copilot)

大模型基础模型已经具备一定的代码编写能力,不过集成在开发工具中的专用代码大模型是基于开源的代码库或者自有代码库独立训练的,参数规模从几B到几十B不等。代码大模型通过“直接集成到编程开发工具中”的方式成为程序员的代码助手,完成代码相关的辅助工作,包括快速生成与补全代码、查找错误与修正、注释生成、代码翻译、生成单元测试用例等。当前,代码助手在金融行业的落地以银行业居多,包括国有银行、城商行等。

图3 开源代码助手CodeGeeX样例

客服助手(Copilot)

客服人员每天面对大量的客户问题,可能会因客户情绪激动、语速过快或一次性反馈多问题等而导致记录不及时,进而无法全面理解客户的诉求。大模型通过对客户原声或语音转化的文字进行理解分析,识别客户情绪,提取关键信息,帮助客服人员全面理解用户意图。一方面可以再结合知识检索为客服人员生成辅助回答,提高客服的工作效率;另一方面,识别到的用户意图也可应用于生成精准的服务和营销标签。目前,多家头部股份制银行已有客服助手的落地场景。

图4 客服助手应用架构

除了客服助手外,其他类型的业务办理小助手,比如理财助手、投顾助手、货币交易助手等场景也在金融行业进行着广泛的尝试。

以上应用研究主要集中于Chatbot和Copilot,针对Agent类型的应用研究发现,大模型直接代替业务人员办理具体业务基本没有落地的应用,这主要是受两方面的约束:一方面大模型直接代替人来进行任务拆解、规划、决策,在效果上尚有待成熟。另一方面,相关监管部门目前并没有放开大模型直接面向客户办理业务的限制。所以目前完全由大模型来完成业务办理在技术和监管上还有很多问题尚未解决,但大模型深度与各行业结合的趋势已不可逆转,金融业作为拥抱新质生产力的先锋,应主动出击、抓紧布局,在各项业务中积极尝试结合大模型的能力,实现自身业务的降本增效,提高竞争优势。光大银行也在积极开拓应用场景,包括知识库,理财助手,及ChatBI等,会陆续与大家见面。

结 语

最后,感谢各位读者的时间,希望本文能够帮助读者了解到大模型在金融行业的应用发展,鼓励大家去探索更多的应用场景。同时,近期笔者在统计二十届三中全会高频词组中就使用了通用大模型的代码生成能力,切实感受到了大模型对日常工作效率的提升。得益于大模型开源的文化,在个人电脑上也可以实现部署一些小参数量的模型如qwen2系列0.5B或1.5B,银行也可以组织相关培训,帮助大家享受大模型为工作带来的便利,探索更多的应用场景。

作者:刘新觅

来源-微信公众号:中国光大银行数据+

出处:https://mp.weixin.qq.com/s?__biz=MzkyNTUwNjgxMQ==&mid=2247485754&idx=1&sn=9ee16ad0f0172ff8ed1bde95d77821d1&chksm=c1c4c4aef6b34db8219b632046b5537981a128da79d82367b8b804144eba63a6a48c84bea3e5&scene=21#wechat_redirect

0 阅读:4

以云看科技

简介:感谢大家的关注