就在这几天,我们开源了deepseekAI大模型,在全球掀起了大浪。
其低成本高性能的特性让众多标榜领先的AI模型瞬间崩塌。
就在这几天国外对deepseek服务器发起了猛烈的攻击,导致很多用户无法正常使用。
那么今天我来教大家如何本地部署deepseek,让我们在无需网络的情况下也能流畅使用deepseek。
此次本地部署过程简化了很多操作,部署好模型到本地后,使用浏览器插件就可以直接使用,对于电脑小白,只要跟着操作几分钟就可以顺利完成部署。
所需要用到的工具有ollama和浏览器插件。
为了保存大家能顺利下载,我已经将工具打包好,大家可以在这里去获取。
首先安装ollama,安装过程很简单,双击安装程序即可,工具包中包含了mac和windows两个安装包,大家按需选择即可。
安装完成之后,以windows系统为例,在开始菜单中搜索powershell,然后以管理员身份运行。
在打开的命令窗口中输入:ollama run deepseek-r1:8b,来下载deepseek模型,大家可以根据自己的显存大小正对性的下载相应的模型。
这里附一张对应显存的模型示意图,数字越大,所需显存越大。
下载完成后,打开edge浏览器或者是谷歌浏览器,在扩展,管理扩展中。
把开发人员模式打开,把工具包中的page assist插件拖进去,并添加扩展。
点击浏览器右上角的插件图标,选择好模型,在设置中的RAG设置中嵌入模型。在一般设置中选择中文。
至此整个本地部署就结束了。
这个部署过程相对来说还是十分简单的,几分钟就可以自行完成,如果你也想体验一下deepseek的功能,可以跟着教程用起来。