不安装不下载!接入DeepSeek的无影云、ToDesk、青椒云有多好用

木木滚滚 2025-02-26 14:29:54
DeepSeek本地化部署痛点

2025年1月,DeepSeek-R1大模型一经发布,便在人工智能领域掀起了千层巨浪。对比以往的AI大模型,其性能强悍,且“更懂人”,许多人的生活、工作习惯也在使用其过后,得到了彻底的颠覆。然而网页版的DeepSeek在我看来并不是完整版的,其存在稳定性较差(服务器繁忙),且无法持续性进行训练等问题。本地化部署才能发挥其100%的强劲实力,举个例子网页版相当于“通用公路”,而本地化部署则相当于“专属高铁”。

然而要实现DeepSeek的本地化部署,却也不是那么简单,对于普通人来说,最大的门槛莫过于硬件方面的限制,组装一台能够流畅运行DeepSeek32B以上模型的电脑,费用已经不菲,劝退不少人。即便真的组装了主机进行部署,也存在难以随身携带电脑,随时使用等问题。

最佳解决方案?

但身为一名程序员,不尝尝鲜,属实难受,在上下翻找之后,貌似也发现了最佳解决方案,那便是云电脑。

云电脑是一种基于云计算技术的服务,它将电脑的硬件资源(如计算、存储等)放在云端,用户通过互联网连接终端设备即可访问和使用这些资源,体验比传统电脑更高配置的算力,能够满足图形渲染、大型游戏体验、AI建模等需求。

省去了攒钱组装的过程,即开即用,无需下载,实现了硬件自由。还可跨设备无缝连接,上班摸鱼用电脑训练大模型,下班通勤路上用手机查看进度,到家后使用平板继续调试。为了选择一款合适的云电脑,我也尝试了几款市面上比较热门的主流产品,做了简单的对比测试,以下是个人体验报告:

一、主流云电脑介绍1、ToDesk云电脑

ToDesk相信很多人都不陌生,作为消费级远程控制王者,帮助了许多职场人士进行多平台远程协作,大幅提升了工作效率,以其高清的画质,流畅的体验而著名。现如今也带着强劲的技术实力,向AI生产力工具进行了转型。

ToDesk云电脑提供强大算力的云端服务,具备硬核性能、旗舰级配置,拥有超清画质、超低延时、多端共享等特点。在配置方面,提供了云图形工作站、高性能云电竞、AIGC藏宝地三大类型划分,可选择电脑配置,以包时或计时方式进行收费,可按小时、天、月、年进行购买,较为灵活。

目前在云电竞板块也提供了一些活动优惠码,初次体验,价格更低。

2、青椒云

青椒云是瑞云科技推出的一种安全云桌面服务,涵盖公有云桌面服务和私有云桌面,可以帮个人和企业快速构建、高效管理云上办公环境,赋能视觉设计、影视制作、教育培训、政企办公等行业,打造云服务生态闭环。

青椒云电脑根据配置划分了AIGC、普通办公、游戏娱乐、设计制作四大类型。

计费方式包含了计时、包天、包月、时段,四种类型,标准版的AIGC开机小时费3.8元,仅做试用的话,价格稍高。

3、无影云

无影云电脑隶属阿里云旗下,个人版包含日常工作生活中使用电脑必需的功能,主要适用于个人和家庭,支持在客户端内实现“购买、管理与使用”一站式体验,具备配置灵活、接入方便、兼容外设、数据安全等优势。能满足学生网课、家庭电脑、日常办公、团队协作等使用需求。

无影云电脑个人版主要以月卡、季卡、年卡方式进行销售,购买产品后,需手动进行配置的选择,以此来判定计费规则,如黄金款产品40核时,可支持4核8G开机10小时,或8核16G开机5小时。

小结:三款云电脑产品计价方式均有所不同,ToDesk云电脑、青椒云的计价方式类似,以包时、计时、包月、包年几种方式来计价。ToDesk云电脑的计时方式,相似配置之下价格更低更划算。而无影云电脑计价方式则类似充值后消费的模式,购买套餐获取每个月的核时,然后根据每次连接的所选配置来扣除,费用不稳定,以16核32G内存的方式来计算,无影云最低价套餐每小时需4元。

二、云电脑初体验1、ToDesk云电脑

ToDesk云电脑在AIGC藏宝地选择相应配置,并进行购买后,便会在我的电脑中生成对应的新云电脑,等待2~3分钟初始化后,便可连接进入桌面。

在AIGC云电脑中,已经为我们提供了一键启动DeepSeek插件,通过查询ollama,其内置了DeepSeek-R1-7B和DeepSeek-R1-32B两个模型,支持联网搜索。

这里也得做个小小的科普,B表示模型的参数量级,直接影响计算复杂度和显存占用。7B代表70亿参数,32b就代表320亿参数,虽然DeepSeek最高可以达到671B,但是那体量得是国家级研究才用得上,通过官方性能报告来看,DeepSeek-R1-32B已经相当强悍。对于普通人来说已经完全够用,足以优秀地解决各类高精度任务,适合超大规模任务,如语言建模、大规模训练等。

2、青椒云

青椒云要使用DeepSeek,需要在购买时,提前选择好DeepSeek-R1云镜像。

在购买后,便可以到云桌面管理界面开机使用,开机需要等待1~2分钟进入桌面。

进入云电脑后,桌面便为我们准备好了Chatbox,根据设置查询,内置了2个模型——DeepSeek-R1 8b和14b。

3、无影云

无影云电脑的启动方式会较为麻烦一点,需要用户手动进行相关配置,整个过程需要选择配置全新电脑,抑或是导入镜像。如果没去阅读文档,很容易选错进入配置新电脑。正确的配置方式是导入镜像,并输入第三方镜像分享码,进行系统选择。

最后需设置云电脑的配置,此时便会决定购买的套餐核时的消耗模式,官方文档推荐使用的是电竞模式,但是一小时的费用算下来实在是太高了,最低档的黄金套餐,每月仅40核时,都不够跑1小时。只能以流畅、性能模式进行测试。

在完成选择后,大概1分钟内,便可以配置成功。成功进入到DeepSeek镜像,通过查询得知,无影云内置的模型为DeepSeek-R1 7b和14b。

小结:在三款云电脑的初步体验中,ToDesk云电脑和青椒云电脑的连接方式接近,购买后开机便可以直接连接,无需多余配置。而无影云电脑初始化配置较为麻烦,需要手动来自定义电脑,如果没有阅读文档,容易误操作。而在远程操控云电脑的体验上,三款产品的连接稳定性接近,但是在画质方面ToDesk云电脑和无影云电脑开最高清模式,非常清晰,而青椒云略逊一筹,肉眼可见锯齿感较强,综合体验ToDesk云电脑较好。

三、本地化模型体验

为了测试本地化模型的使用,我也是准备了两种方法,一种是直接用本地化模型输出代码,再经过实测,查看代码可行性。另一种是使用Cherry-Studio构建个人知识库,测试使用效果。

ToDesk云电脑

首先进行最简单的测试,使用32b本地化模型生成代码测试,ToDesk云电脑生成网页版贪吃蛇小游戏,思考、输出速度非常迅速。

生成的html页面,可直接流畅运行,没有bug的产生。

Cherry-Studio搭建本地知识库,需要一些准备工作,首先是使用ollama部署embedding模型。使用cmd命令行,可以看到本地ollama可以正常运行,输入ollama pull shaw/dmeta-embedding-zh,完成下载。

之后进入Cherry-Studio软件中,设置模型服务为Ollama模型,选择shaw模块为刚才下载的shaw/dmeta-embedding-zh,并勾选上deepseek的32b模型。

接着便可以添加本地知识库,输入知识库名称,以及刚才下载的嵌入模型,便可以完成创建。

此时,便可以往我们的知识库里添加文件,或者是网址、网站、笔记等内容,构建专属于自己的知识库。

紧接着,在Cherry-Studio软件聊天助手里,勾选上知识库,输入问题,便会返回知识库相关的信息,如我测试用的自己写的选购文章,此时便会根据文档内容输出,耗时19秒便可以完成深度思考与回答。在回答里,甚至会附上表格对比,能够极大方便我进行对比分析。

如果录入更多专业性文档,能够帮助我们极速查询文档、总结知识要点,快速获取所需知识,将会大幅提升工作学习效率。

青椒云

使用青椒云进行代码测试时,14b模型输出算是流畅,总耗时也是在2分钟内。

生成的代码,乍一看没问题,但是试着运行了一下,却发现了隐藏bug,当贪吃蛇边缘触碰到食物,居然意外结束了游戏,代码还需要人工进行排查调整才能正常使用。

在青椒云上使用Cherry-Studio,与ToDesk云电脑配置方式一样,这里就不赘述了,直接来看测试结果。导入知识库后,深度思考回答效率非常快,仅耗时17秒多,但是输出的内容,会相比ToDesk云电脑简单不少,基本是对文档内容的复制。

无影云

使用无影云进行代码测试时,14b模型会略显卡顿,输出是逐个字冒出,总过程耗时较久。

当html代码生成后,发现到浏览器端并不能正常运行,陷入了死循环,游戏开始便会撞墙结束,无法正常运行。

在Cherry-Studio中进行本地知识库查询,14b模型8核时与16核时配置之下,配置之下,深度思考耗时较长,甚至有时总耗时约10分钟才能完整输出内容。

切换到最顶配的60核时配置进行运行,速度有了较大提升,但是也需要数十秒的思考过程才能将知识库的内容进行分析总结,输出内容质量介于青椒云和ToDesk云电脑之间。

小结:在本地化代码输出、知识库内容搭建方面,ToDesk云电脑凭借32b模型,有较大的优势,代码可靠性高,能对知识库内容进行总结分析,内容更具可读性。青椒云14b模型,输出速度快,但是代码稳定性差,存在隐藏bug,知识库内容输出较为简单。无影云14b模型,输出速度最慢,代码同样缺乏可靠性,多次输出仍无法正常运行,知识库的内容总结与青椒云接近。

总结

根据上文内容,个人也列举个表格进行总结。青椒云和无影云同样支持最高14b模型,但是在体验上却完全不同。青椒云画质较差,在深度思考回答方面,速度反馈较快,与ToDesk云电脑接近。无影云画质高清,连接稳定,但是在代码输出、知识库总结方面,速度最慢,十分耗时。

ToDesk云电脑在相同算力下价格低26%,并在DeepSeek-R1-32B模型的加持之下,推理速度达18 token/s,各方面的表现均更为出色。且配置流程比竞品快2.3倍 ,画质高清,延迟性低。32B模型也更具备深挖知识库内容的实力,能够极大提升工作、学习效率。

0 阅读:54