Groq是AI快速推理平台, 集成Gemma2,Llama3,Mixtral等大模型,下午小小的体验了下,反应速度真的很快。不过Groq的风控很严,在国内我是尝试了多种方法才注册成功的。

我们打开Groq官网,可以用谷歌账号授权登录(一般国内谷歌账号授权大概率注册失败,可以用Outlook邮箱尝试下)

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图

我们先在Model选择语言大模型,Gemma2,Llama3,Mixtral等大模型。

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图1

Gemma2才出来没多久,我们来看看它的数学推理能力如何?

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图2

回答正确,回答的速度也非常的快,计算公式也写的很详细。

再来看看Gemma2的编程能力如何?

就让它帮我写款WordPress分类上下移动的插件吧!

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图3

回答的很委婉,但是最后还是写出了示例代码,总体来说还是不错的。

最后我们再来体验下Llama3,Mixtral大模型吧!让它们给我写点旅游攻略吧!

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图4
Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图5

用中文提问的,但是回答却是纯英文,看来还是以英文为主,不过写的攻略倒是还不错。

Groq作为AI推理平台,在回答速度上的确很优秀,开发者们也可以接入API使用哦~



微信扫描下方的二维码阅读本文

Groq,AI快速推理平台,集成Gemma2,Llama3,Mixtral等大模型插图6

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。