Zamba2-7B，Mamba+Transformer组合架构的LLM，仅3T训练Token，在7B大小LLM中评分领先，特色是使用了Mamba+Transformer组合架构。

Zamba2-7B，Mamba+Transformer组合架构的LLM插图

官方博文：https://www.zyphra.com/post/zamba2-7b

在线体验：https://maia.zyphra.com/chat

模型下载地址：https://huggingface.co/Zyphra/Zamba2-7B



微信扫描下方的二维码阅读本文

Zamba2-7B，Mamba+Transformer组合架构的LLM插图1

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。