DeepSeek开源库DeepGEMM 性能测评

DeepSeek 开源库 DeepGEMM 性能测评

摘要

DeepGEMM是一款高效FP8通用矩阵乘法库，支持NVIDIA Hopper张量核心，通过CUDA核心两级积累解决FP8精度问题。其设计简洁，核心内核仅约300行代码，性能在各种矩阵形状下媲美或超越专家调优库。测试显示，DeepGEMM在H20和H800上表现优异，尤其在处理大矩阵时优于Cutlass和Triton，适合大规模计算任务。总体而言，DeepGEMM在计算性能和兼容性上表现出色，是深度学习中的高效工具。