Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型

AI神秘探险家 2024-07-08 15:42:24

Groq是AI快速推理平台, 集成Gemma2,Llama3,Mixtral等大模型,下午小小的体验了下,反应速度真的很快。不过Groq的风控很严,在国内我是尝试了多种方法才注册成功的。

我们打开Groq官网,可以用谷歌账号授权登录(一般国内谷歌账号授权大概率注册失败,可以用Outlook邮箱尝试下)

我们先在Model选择语言大模型,Gemma2,Llama3,Mixtral等大模型。

Gemma2才出来没多久,我们来看看它的数学推理能力如何?

回答正确,回答的速度也非常的快,计算公式也写的很详细。

再来看看Gemma2的编程能力如何?

就让它帮我写款WordPress分类上下移动的插件吧!

回答的很委婉,但是最后还是写出了示例代码,总体来说还是不错的。

最后我们再来体验下Llama3,Mixtral大模型吧!让它们给我写点旅游攻略吧!

用中文提问的,但是回答却是纯英文,看来还是以英文为主,不过写的攻略倒是还不错。

Groq作为AI推理平台,在回答速度上的确很优秀,开发者们也可以接入API使用哦~

0 阅读:1

AI神秘探险家

简介:研究一切可行性。