DeepSeek 开源周第三天发布的 DeepGEMM，其主要亮点和应用前景有哪些值得关注？

在DeepSeek开源周的第三天，发布了名为DeepGEMM的库。该库专为高效FP8通用矩阵乘法设计，支持普通和混合专家分组的GEMM，采用CUDA编写，无需编译安装，运行时使用JIT模块编译内核。DeepGEMM目前仅支持NVIDIA Hopper张量核心，采用两级累加方法解决FP8不精确问题。其设计简洁，只有一个约300行的核心内核函数，易于学习和优化。在Hopper GPU上性能可达1350+ FP8 TFLOPS。

DeepGEMM是在DeepSeek开源周的第三天发布的一个亮点项目。这个库的主要亮点包括其专为简洁高效的FP8通用矩阵乘法（GEMM）设计，具有细粒度缩放功能，支持普通和混合专家（MoE）分组的GEMM。它采用CUDA编写，使得安装过程中无需编译，通过轻量级的即时编译（JIT）模块在运行时编译所有内核，这大大提高了使用的便捷性。

另一个值得关注的点是，DeepGEMM目前仅支持NVIDIA Hopper张量核心。为了解决FP8张量核心累加不精确的问题，它创新性地采用了CUDA核心的两级累加方法，从而提升了计算的精确性。

此外，DeepGEMM的设计非常简洁，仅包含一个核心内核函数，代码量约为300行。这不仅使得代码易于理解和维护，也使其成为学习Hopper FP8矩阵乘法及优化技术的清晰且易于获取的资源。这种简洁性并没有牺牲性能，事实上，在Hopper GPU上，它的性能最高可达1350+ FP8 TFLOPS。

在应用前景方面，DeepGEMM的高效性和优化潜力使其在深度学习、科学计算等领域有广阔的应用空间。尤其是其对于FP8的支持和优化，将有望在保持计算精度的同时，大幅提升计算效率，从而推动相关领域的技术进步。

DeepSeek 开源周第三天发布的 DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法（GEMM）设计的库，具有细粒度缩放功能，支持普通和混合专家（MoE）分组的 GEMM。该库采用 CUDA 编写，在安装过程中无需编译，通过使用轻量级的即时编译（JIT）模块在运行时编译所有内核。目前，DeepGEMM 仅支持 NVIDIA Hopper 张量核心，并采用了 CUDA 核心的两级累加（提升）方法来解决 FP8 张量核心累加不精确的问题。该库设计简洁，仅包含一个核心内核函数，代码量约为 300 行，使其成为学习 Hopper FP8 矩阵乘法及优化技术的清晰且易于获取的资源。

DeepGEMM 的主要亮点包括：在 Hopper GPU 上最高可达 1350+ FP8 TFLOPS，无重度依赖，简洁如教程，完全即时编译，核心逻辑约 300 行，但在大多数矩阵尺寸上仍优于专家调优的内核，支持密集布局和两种 MoE 布局。

应用前景方面，DeepGEMM 的高效性和简洁性使其在深度学习、高性能计算等领域具有广泛的应用潜力。其即时编译特性和轻量级设计使得开发者能够快速部署和优化矩阵乘法运算，特别是在需要高效处理 FP8 数据类型的场景中。此外，DeepGEMM 的学习资源性质也为研究人员和开发者提供了深入了解和掌握 FP8 矩阵乘法优化技术的机会。