@TOC
华为云828，领8280元上云礼券，买高性能服务器！！！
这不，手里就拿到了一台4核12G，10M的Flexus X实例云服务器，拿到后，就想着测测它的性能，看看有没有官网说的那么神奇！！！
官网的活动地址在这里，领8280元券：点我查看
下面，简单的给大家看看我手里的这台服务器的配置，做个铺垫，待会儿给大家上大招！！！
cpu的情况
拿到服务器后，我不想再装环境上浪费时间，所以就安装了个宝塔，这个面板在服务器中，占不了多少内存，但是方便了装环境，不用执行装环境的命令，只需要在软件商店中，找到需要安装的软件，点击后面的安装即可。
在正式评测之前，我们需要准备以下环境：
docker，不会安装的可以自行百度ollama，这个也很简单，执行个命令就完事儿了假使我们这两个环境现在在云服务器上都安装成功啦。
那么，现在我们开始正式评测！！！
下面，我们开始基于华为云的Flexus X实例云服务器评测一下大模型，因为我们现在还不知道这款服务器能跑多大的模型，所以我们就先从小模型开始跑。
先来个小模型，下面我们可以直接使用ollama开始跑模型，大家进入ollama的官网，点击右上角的model菜单：
然后就能看到下面所有ollama支持的大模型啦。
找到qwen2，我们可以看到下面的tag里面分别有：0.5B，1.5B，7B，72B，这几种。
下面，我们先以最小的为例，试试看看：（注意，模型的质量我们暂且不管，我们只评测响应速度以及CPU和内存的占用情况）
占用情况以宝塔面板上的统计图为例，待会儿给大家截图。
执行下面的命令，开始跑0.5B的大模型：
ollama run qwen2:0.5b
运行情况如下：
占用情况如下：
结论：0.5B的大模型，可以看到，这个速度快的惊人，没说的，继续测下个大模型。
千问1.5B大模型这次我们测1.5B的大模型，比0.5B的多1，看看这款Flexus X实例云服务器的表现怎么样。
同样，执行下面的命令：
ollama run qwen2:1.5b
这里需要等待半天，让下载。
下载过程中，我们可以看看宝塔上的内存和CPU的占比情况。
基本上毫无压力，继续等待！！！
等待的过程有点漫长.....
开测！！！
看看占用情况：
结论：比较完美，感觉和0.5B的区别不是很大，就是下载的时候慢了点，整体表现很棒。
gemma2的2b大模型0.5B和1.5B的我们都测试过了，大家也可以从上图中看的出来，一点压力都没有，响应速度也很快，嗖嗖的就回答完毕了，质量也还行，而且最主要的是服务器的性能完全是过剩的，没跑满，所以，我们接着加大力度测试。
现在我们测测gemma2的2b大模型，运行如下命令：
ollama run gemma2:2b
又到了等待的过程中了，总是这么漫长~
在下载模型的过程中，我们可以看看占用情况：
一点问题都没有，几乎没有占多少，现在我们继续等待。
等待完毕，开始问个问题测试一下：
效果展示情况：
资源占用情况：
结论：通过效果图gif中可以看的出来，响应要比1.5B的稍微慢了点儿，但是这个速度还是可以接受，不过内存占用稍微偏高了，由原来的27增加到了34，倒是也能接受，毕竟模型的大小由原来的900多M到现在的1.4G了。
千问7B大模型现在，我们继续增大模型，看看表现效果怎么样。
这次我们测一下千问的7B大模型，这是2B的3倍多，看看这款Flexus X实例云服务器跑7B的模型是个什么情况。
同样，执行下面的命令：
ollama run qwen2:7b
继续等待：
7B的模型，已经到了4G多了，期待他能有个很好的表现。
现在是：2024年9月6日00:02:43，我的7B大模型还在下载中，已经困的不行了....
再等等....
终于等它下载完啦，一共4.4G，等的我都快做梦啦。切记，如果有大文件上下传的场景，买服务器的时候一定要选择个大带宽的，我的这个是10M的带宽，感觉遇到大文件了，还是有点不足。
下面我们开始进行评测，首先还是老规矩，先运行看看效果：
资源占用情况：
结论：大家可以看看效果图中，可以发现，很明显，相比起2B 1.5B的这种小模型来比，7B的模型，在响应方面确实是稍微慢了点儿，但是也没有慢到一个字一个字的往出蹦，还是可以接受的。资源占用情况的话，CPU占用上升到了50.4% ，内存在原来的34增加到了49。也没有跑满服务器。
总结先放一张各个大小的模型之间的对比吧，从0.5B，到1.5B，再到7B，以及72B。
大家可以从上图中看的出来，模型越大，params就越大，本文我们通过对0.5b,1.5b,2b,7b这几个模型进行评测对比，总体来说，比我预想的要好很多，我以为7b的会卡的很，结果表现的很棒，这么看来，跑8B以内的模型是没有问题的。
在往上的大模型，可能会吃力，不过8B以内，其实小微企业足矣！！！
最后，欢迎大家的观看，这款服务器真心推荐，通过一系列的评测，性能也是有目共睹的。活动地址：点击这里查看
