金融界2025年1月9日消息,国家知识产权局信息显示,百度(中国)有限公司申请一项名为“基于分布式缓存的大模型处理方法、装置、设备及介质”的专利,公开号CN119254780A,申请日期为2024年9月。
专利摘要显示,本公开提供了基于分布式缓存的大模型处理方法、装置、设备及介质,涉及人工智能中的大语言模型、数据处理技术领域。具体实现方案为:中心调度服务接收大模型服务发送的响应信息,基于预先获取的网络负载信息,中心调度服务将响应信息写入kafka服务,针对于至少一个Redis缓存中的每个Redis缓存,消费kafka服务中的响应信息并进行本地缓存。通过上述方法提升了系统的并发处理能力、负载均衡与扩展性、数据可靠性与持久性以及优化了用户体验,能够显著提升服务支持的用户量。
天眼查资料显示,百度(中国)有限公司,成立于2005年,位于上海市,是一家以从事商务服务业为主的企业。企业注册资本1250万美元,实缴资本1250万美元。通过天眼查大数据分析,百度(中国)有限公司共对外投资了17家企业,参与招投标项目3次,专利信息180条,此外企业还拥有行政许可16个。
本文源自:金融界