DeepSeek开源第三天，DeepGemm，一个支持密集和Moe Gemms的FP8 GEMM库，为V3/R1训练和推理提供动力。

最多可在Hopper GPU上的1350+ FP8 TFLOPS，没有沉重的依赖，像教程一样干净，完全编译的正义，〜300行的核心逻辑 - 在大多数矩阵大小上都优于专家调整的内核，支持密集的布局和两个MOE布局。

DeepSeek开源第三天，DeepGemm，一个支持密集和Moe Gemms的FP8 GEMM库，为V3/R1训练和推理提供动力插图

Github地址：https://github.com/deepseek-ai/DeepGEMM



微信扫描下方的二维码阅读本文

DeepSeek开源第三天，DeepGemm，一个支持密集和Moe Gemms的FP8 GEMM库，为V3/R1训练和推理提供动力插图1

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。