金融界2025年3月18日消息，国家知识产权局信息显示，号百信息服务有限公司申请一项名为“RAG场景下自适应输入窗口的大语言模型推理系统及方法”的专利，公开号CN119621882A，申请日期为2024年10月。
专利摘要显示，本发明涉及一种RAG场景下自适应输入窗口的大语言模型推理系统及方法，该系统包括：用户代理部分：用于获取用户的查询请求；向量数据库VDB部分：与所述用户代理部分和大语言模型部分连接，所述向量数据库VDB部分用于根据所述大语言模型部分获取大语言模型输入窗口参数、接收用户的查询请求，并从本地知识库中查询出候选的文本块组，再将所述用户的查询请求和候选的文本块组填充至提示模版中得到包含上下文的提示模版大语言模型部分用于采用对应的大语言模型对所述包含上下文的提示模版进行内容推理，并将推理结果返回给用户代理部分。与现有技术相比，本发明具有充分利用大语言模型的大窗口，实现更多本地知识输送推理等优点。
天眼查资料显示，号百信息服务有限公司，成立于2007年，位于上海市，是一家以从事互联网和相关服务为主的企业。企业注册资本35000万人民币，实缴资本35000万人民币。通过天眼查大数据分析，号百信息服务有限公司参与招投标项目3053次，财产线索方面有商标信息125条，专利信息100条，此外企业还拥有行政许可5个。
本文源自：金融界
