Deepseek在开源周第三天宣布开源DeepGEMM库。DeepGEMM专为高效FP8通用矩阵乘法设计，支持细粒度缩放和普通及混合专家（MoE）分组的GEMM。该库基于CUDA开发，无需编译安装，通过轻量级JIT模块在运行时编译内核。DeepGEMM支持V3/R1训练和推理。(金十)

标签: