平安科技申请一种基于上下文学习的情感预测方法专利,使模型更好地理解上下文信息

金融界 2024-11-30 22:03:01

金融界2024年11月30日消息,国家知识产权局信息显示,平安科技(深圳)有限公司申请一项名为“一种基于上下文学习的情感预测方法、装置及终端”的专利,公开号CN119046425A,申请日期为2024年8月。

专利摘要显示,本发明公开了一种基于上下文学习的情感预测方法、装置及终端,方法包括:获取情感预测训练集中训练样本及对应的标签,生成样本示例集;获取查询测试语句,将查询测试语句与每一个样本示例分别进行拼接,得到目标示例集;将目标示例集及查询测试语句分别输入大语言模型,并计算目标示例集的元梯度,基于元梯度更新对大语言模型进行训练,得到标签预测模型;获取待预测示例;将待预测示例输入标签预测模型,得到待处理文本的预测标签;根据预测标签得到情感预测结果。本发明实施例通过元梯度的更新,使模型更好地理解上下文信息;采用并行式的方法来独立学习每个示例,最大程度地减少了示例顺序对ICL的影响,从而提高了模型的鲁棒性和可靠性。

本文源自:金融界

0 阅读:1

金融界

简介:财经媒体、互联网金融、财富管理