浪潮电子申请一种数据处理专利,提升模型推理性能和效率

金融界 2025-01-18 13:13:51

金融界2025年1月18日消息,国家知识产权局信息显示,浪潮电子信息产业股份有限公司申请一项名为“一种数据处理方法、装置、设备、介质及程序产品”的专利,公开号CN119311737A,申请日期为2024年12月。

专利摘要显示,本申请公开了计算机技术领域内的一种数据处理方法、装置、设备、介质及程序产品。本申请在模型推理的初始化阶段,创建第一缓存区和第二缓存区;若接收到模型推理请求,则将模型推理请求的预处理阶段的上下文信息存储至第一缓存区;基于第一缓存区中的上下文信息,执行模型推理请求的解码阶段中的各个解码操作;其中,将前一解码操作的上下文信息存储至第二缓存区,基于第二缓存区中的上下文信息执行前一解码操作的后一解码操作。该方案基于以空间换推理效率的原则,利用两个缓存区分别存储预处理阶段和解码阶段的上下文信息,提升了模型推理性能和效率,无需更改模型结构,可使模型快速上线应用。

天眼查资料显示,浪潮电子信息产业股份有限公司,成立于1998年,位于济南市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本147213.5122万人民币,实缴资本47007.617万人民币。通过天眼查大数据分析,浪潮电子信息产业股份有限公司共对外投资了38家企业,参与招投标项目3628次,知识产权方面有商标信息386条,专利信息5000条,此外企业还拥有行政许可13个。

本文源自:金融界

0 阅读:0
金融界

金融界

财经媒体、互联网金融、财富管理