金融界2025年4月10日消息，国家知识产权局信息显示，中国建设银行股份有限公司申请一项名为“基于Circuit和Embedding的大模型推理过程可解释性方法、装置及相关设备”的专利，公开号CN119783835A，申请日期为2024年12月。
专利摘要显示，本申请公开了一种基于Circuit和Embedding的大模型推理过程可解释性方法、装置及相关设备，本申请方法首先运行大模型，记录推理过程中各隐藏层的中间状态。基于中间状态构建信息流向图，节点代表各隐藏层的Token嵌入表示边代表隐藏层间的计算操作。利用归因算法计算信息流向图中每条边对输出结果的贡献度，根据贡献度筛选关键边，在关键边关联的节点中筛选关键节点的Token嵌入表示。最后，通过提示指令引导大模型对关键节点的Token嵌入表示进行解释生成解释结果。通过分析中间状态、构建信息流向图、识别关键路径以及生成自然语言解释，有效地解释了大模型的推理过程，增强了大模型的可解释性。
天眼查资料显示，中国建设银行股份有限公司，成立于2004年，位于北京市，是一家以从事货币金融服务为主的企业。企业注册资本25001097.7486万人民币，实缴资本19423025万人民币。通过天眼查大数据分析，中国建设银行股份有限公司共对外投资了49家企业，参与招投标项目5000次，财产线索方面有商标信息1873条，专利信息5000条，此外企业还拥有行政许可147个。
本文源自：金融界
