科智咨询：2025年DeepSeek对国产芯片的影响报告.pdfVIP

DeepSeek对国产芯片的影响

科智咨询云网研究事业部苏长飞

2025年4月

目录

01DeepSeek技术创新

02DeepSeek对国产芯片的影响

03国产芯片面临的挑战和发展机遇

2

DeepSeek出现的影响

DeepSeek的出现标志着我国在生成式AI领域达到世界领先级别

全球APP增长1亿用户所需时间DeepSeek与ChatGPT移动端全球DAU对比情况

数据来源：公开信息©2025科智咨询.Allrightsreserved.3

DeepSeek主要技术创新点

架构创新

•无辅助损失负载平衡的DeepSeekMoE

DeepSeek-V3提出了一种无辅助损失的负载均衡策略（Loss-Free

Balancing），通过动态调整每个专家的偏差来控制负载平衡，而不引入干

扰梯度。减少因鼓励负载均衡而对模型性能产生的负面影响。

•Multi-HeadLatentAttention(MLA)

MLA的核心在于通过低秩联合压缩来减少注意力键（keys）和值（values）

在推理过程中的缓存，从而提高推理效率

数据来源：DeepSeek论文©2025科智咨询.Allrightsreserved.4

DeepSeek主要技术创新点

软硬协同工程优化1/2

•多token预测（Multi-TokenPrediction,MTP）

主流大模型token-by-token生成序列，而每次token生成需要频繁与访存交互，

从而因为访存效率形成训练或推理的瓶颈。MTP方法主要将单token的生成，转

变成多token的生成，提升训练和推理的性能。DeepSeek主要对传统MTP算法

进行了一定优化，顺序预测额外token，并在每个预测深度保持完整的因果链。

•FP8混合精度训练框架

在DeepSeek的训练过程中，绝大多数核心计算核（即通用矩阵乘法GEMM操

作）均以FP8精度实现。这些GEMM操作接受FP8张量作为输入，并输出BF16

或FP32格式的结果。如下图所示，与线性算子（Linearoperator）相关的三个

GEMM运算——前向传播（Fprop）、激活梯度反向传播（Dgrad）和权重梯

度反向传播（Wgrad）——都采用FP8精度执行。

对以下模块维持原有精度（如BF16或F