GRIN-MoE，微软开源的混合模型，整体能力与Phi-3.5-MoE接近，GRIN MoE 仅具有 6.6B 激活参数，可在各种任务中实现非常出色的性能，尤其是在编码和数学任务中。

GRIN-MoE，微软开源的混合模型，整体能力与Phi-3.5-MoE接近插图

Github地址：https://github.com/microsoft/GRIN-MoE

论文地址：https://arxiv.org/pdf/2409.12136

模型下载地址：https://huggingface.co/microsoft/GRIN-MoE



微信扫描下方的二维码阅读本文

GRIN-MoE，微软开源的混合模型，整体能力与Phi-3.5-MoE接近插图1

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。