硅动科技申请大语言模型的任务调度专利,提高大模型的推理效率

金融界 2025-01-18 11:13:36

金融界2025年1月18日消息,国家知识产权局信息显示,北京硅动科技有限公司申请一项名为“大语言模型的任务调度方法、数据处理系统与电子设备”的专利,公开号CN119311384A,申请日期为2024年9月。

专利摘要显示,本公开提供了一种大语言模型的任务调度方法、数据处理系统与电子设备。方法包括:在第一处理器上,从就绪队列获取请求以形成第一运行实例和第二运行实例;生成第一运行实例对应的第一协程和第二运行实例对应的第二协程,第一协程和第二协程均用于执行Q个子阶段的计算任务与传输任务运行第协程以将第1i个计算任务提交到第二处理器的第一工作流,将第1i个传输任务提交到第二处理器的第二工作流,设置第1i个传输任务在第1i个计算任务执行之后执行;运行第二协程,以将第2i个计算任务提交到第一工作流,将第2i个传输任务提交到第二工作流,设置第2i个传输任务的执行条件在第2i个计算任务执行之后执行。本公开实施例可以提高大模型的推理效率。

天眼查资料显示,北京硅动科技有限公司,成立于2023年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1375.769万人民币,实缴资本5.2632万人民币。通过天眼查大数据分析,北京硅动科技有限公司共对外投资了1家企业,参与招投标项目3次,知识产权方面有商标信息2条,专利信息4条,此外企业还拥有行政许可1个。

本文源自:金融界

0 阅读:0
金融界

金融界

财经媒体、互联网金融、财富管理