据中研普华产业研究院统计数据显示，截至2023年，中国AI大模型行业市场规模已达到147亿元人民币，并仍呈现出持续高速增长的态势。宏观层面上，政府也出台了一系列相应的扶持政策，为大模型产业的发展创造良好的环境，以推动大模型的应用拓展和商业化进程。在市场需求及政策的引导下，大模型应用一路高歌猛进。

随着大模型的大规模开发与应用，算力的缺口逐渐显露，算力供给增速明显难以满足指数式爆发的需求，储备算力成为各行各业的必要举动。边缘计算作为云计算的补充，提供了一种更为灵活和高效的算力分配形式，通过将计算、存储、网络和应用服务功能迁移到靠近数据源的边缘设备和节点上处理，以提供更快的网络服务响应，满足实时业务的需求。

差异化的算力解决方案

瑞驰信息作为一家提供安卓云、AI边缘计算、云基础设施等产品及解决方案的高新技术企业，重点聚焦ARM软硬件设计和研发，基于对市场的算力缺口的洞察，创造性地推出了边缘计算服务器。边缘计算服务器是瑞驰信息基于Nvidia Jetson平台自主研发的一款阵列式服务器产品，具备高密度、高性能、高稳定等优势特色，支持各种行业通用算法及大模型应用部署（支持Nvidia全生态工具链、算法移植零门槛），能为行业用户提供极具差异化的智能产品解决方案。

超强算力：单卡AI性能高达100 TOPS，满载算力超强澎湃，各类大模型应用毫无压力。

稳定可靠：分布式节点设计，并采用工规级芯片，稳定性远远高于单系统服务器产品。

通用部署：采 用 N v i d i a 生 态 芯 片 ，算 法 移 植 零 门 槛 ；支 持Llamma、ChatGLM、SD等大模型应用部署。

降本增效：相较同等规格GPU服务器，推理性能更高、综合算力更大、一台可抵3台，综合成本更省。

高效赋能大模型应用

语言大模型：基于边缘计算服务器私有化部署的语言大模型，可实现文本生成、语言理

解、知识问答、文本摘要、逻辑推理以及复杂信息处理等功能，以满足用户多样化需求。

文生图大模型：边缘计算服务器可以轻松集成企业内部私有化数据库和知识库，生成企业专属的大模型，以打造企业内部生成式AI应用场景，可实现10秒生图，并支持模型调参优化。

编程大模型：基于边缘计算服务器私有化部署的互联网编程大模型，实现了自动化代码生成、代码补全、编程代码注释、代码问题自动反馈等功能，并支持100个在线并发，可节省30%以上的开发工时。