DeepSeek开源周总结与感悟：不可能在国外AI公司完成的工作

开源到第三天的两个感觉

原标题：DeepSeek开源周总结与感悟：不可能在国外AI公司完成的工作
文章来源：智猩猩GenAI
内容字数：3424字

DeepSeek开源项目：在限制中绽放的AI创新

本文总结了DeepSeek开源项目的三大贡献，展现了在受限硬件条件下，中国AI团队如何通过极致的软硬件优化实现突破。

1. 对中国AI团队的独特挑战与机遇

   文章指出，DeepSeek开源的三款项目——FlashMLA、DeepEP和DeepGEMM——几乎不可能在国外的AI公司中完成。这是因为这些项目针对的是中国的英伟达H80 GPU，其存在是因为美国的芯片限制法案。而国外的AI巨头拥有充足的A100和H100等高端GPU，他们更倾向于增加预训练投入而非极致的硬件优化。DeepSeek团队则不得不面对硬件受限的挑战，从而在软硬件协同优化上取得了突破性的进展，这反过来也为他们带来了独特的机遇。

2. 三大开源项目的核心贡献与创新

   1. FlashMLA：高效的MLA解码内核

   FlashMLA针对NVIDIA Hopper架构进行了深度优化，通过精细化的内存管理和KV缓存压缩技术，在显存有限的情况下支持万token级长文档的高效推理。它解决了显存碎片和连续内存分配难题，使得在“版”H800上实现超长上下文的实时推理成为可能。Github地址：https://github.com/deepseek-ai/FlashMLA

   2. DeepEP：高效的MoE通信库

   DeepEP专为MoE（专家混合模型）场景设计，针对H800上的多GPU协同计算进行优化。它支持NVLink与RDMA技术，打通了节点内外高速通信的瓶颈，有效降低了延迟并提升了吞吐量。在复杂模型训练中，实现了节点间高效数据传输，为大规模并行计算提供了坚实支撑。Github地址：https://github.com/deepseek-ai/DeepEP

   3. DeepGEMM：高效的FP8通用矩阵乘法库

   DeepGEMM仅用300行代码实现了针对H800的FP8运算优化的通用矩阵乘法库。它支持普通GEMM以及MoE分组计算，通过引入CUDA核心两级累加技术和轻量级即时编译（JIT）模块，解决了FP8张量核心累加不精确的问题。在极简代码实现下展现出超高性能。Github地址：https://github.com/deepseek-ai/END

3. 对未来人才需求的展望

   文章强调，DeepSeek项目的成功离不开其团队成员既懂AI大模型又懂硬件的复合型人才。DeepEP和DeepGEMM的一作程刚（Chenggang Zhao），清华大学毕业，曾在英伟达工作，正是这种软硬件兼通的背景，使得他们能够深度挖掘硬件性能。文章预测，未来对于软硬件皆通的人才需求将会更大，这种复合型人才将成为AI领域爆发的关键。

   DeepSeek的成功案例也为我们展示了一种新的可能性：即使在硬件受限的情况下，通过极致的软硬件优化，也能在AI领域取得突破性的进展。这不仅是对中国AI团队的鼓舞，也为全球AI发展提供了新的思路。

联系作者

文章来源：智猩猩GenAI
作者微信：
作者简介：智猩猩旗下账号，专注于生成式人工智能，主要分享技术文章、论文成果与产品信息。