DeepSeekV3%26R1加速LLM训练%26推理端降本／数据平权，有望开启端侧／AI应用的黄金时代%26传统非AI公司价值重估.pdf

报告摘要

DeepSeekV3/R1：颠覆行业生态的里程碑式创新，训练/推理成本骤降+不依赖监督数据+蒸馏成为捷径+宽松的开源协议

➢DeepSeekV3多方面创新带来对标GPT-4o的性能+远低于4o的训练/推理成本：DeepSeekV3整个训练过程不到600万美金的成本，模型效果对标亿美金

级成本的GPT-4o；推理成本也是4o的1/10以内。大幅降本的缘由是其在算法架构、训练环节、通信/计算优化/PTX层优化等多方面做出的创新：

✓算法架构：引入MLA、MoE、MTP等多种方式压降训练/推理成本，并提高模型的推理能力。

✓Training阶段：通过SFT与RL显著提升了post-training的成效，其中RL过程通过原创的GRPO算法实现（与PPO效果接近，大幅降低训练开销）。

✓通信优化计算优化PTX层优化：DualPipe/FP8混合精度训练/定制PTX指令协同优化下，模型训练的通信效率/内存效率均明显提升。

➢DeepSeekR1除了与V3同质的系列创新外，对行业影响最大的点在于论证了SFT过程可能不是刚需/蒸馏头部大模型比训练自有模型更高效：

✓R1-Zero不依赖任何监督数据也可以涌现：R1-Zero在经过数千次的RL过程后，展现出了极强的推理能力（出现了aha-moment，涌现出超脱数

据集的能力）,说明不需要SFT过程，模型的推理能力也可以提升（高质量的监督数据不再是模型进化的门槛）——击碎数据崇拜。

✓直接蒸馏成熟模型比依靠先进范式重训练自有模型更高效：基于R1蒸馏多个开源模型，效果均明显好于原模型；基于R1直接进行蒸馏得到的

模型效果要好于将原模型基于R1训练框架进行重训练；这意味着对于绝大多数公司来说自研可能意义不大，蒸馏是捷径；这是除了成本因素

外，冲击到云端算力叙事逻辑的核心。

报告摘要

产业影响：看好AI应用/端侧AI/to-CAI/传统非AI公司受益技术/数据平权及AI降本

➢当训练/推理/高质量数据都不再是门槛且蒸馏领先模型就是捷径，我们得出一些直观结论：

✓AI应用端侧确定性受益：训练/推理成本指数级下降，且大模型蒸馏出的小模型效果提升显著；AI应用的迭代成本下降端侧模型可用性明显

提高，泛AI应用/端侧AI全面受益（to-C可能略好于to-B）。建议关注：应用—金山办公、美图、焦点科技、科大讯飞、万兴科技、金蝶国际、

用友软件；端侧——机器人（速腾聚创）、智联汽车（地平线机器人、知行汽车科技、禾赛科技、德赛西威、均胜电子、舜宇光学科技、比亚

迪电子等）、手机（中科创达、虹软科技）、PC（联想）、AI玩具模组芯片厂商（乐鑫科技、移远通信、广和通、美格智能、瑞芯微、全志

科技等）。

✓后发者将迅速收敛与行业领先者的差距：LLM发力相对晚的互联网大厂将收敛与LLM头部大厂之间的差距；映射到智联汽车领域，传统车企或许

也有可能加速收敛与特斯拉、华为、小鹏等头部智驾厂商的差距。建议关注：小米系（小米、金山办公、金山软件、金山云）、京东、快手等；

传统自主品牌车企（比亚迪、吉利）。

✓ASIC国产芯片生态：“算法+硬件+系统架构”协同优化确实能大幅提升硬件利用率，这说明通用GPU/CPU头部厂商垄断地位并不稳固，国产

GPU/CPU随着市占提升/生态改善，将会更加繁荣。建议关注：海光信息、中科曙光、寒武纪、浪潮信息；

✓传统非AI公司：“数据平权+技术平权”背景下，商业竞争的核心可能又会从AI切换为公司主业的过往竞争力，传统非AI公司估值可能重塑；

建议关注：各行业头部公司。

风险提示：行业竞争加剧风险、人工智能配套及监管政策不及预期、行业公司产品落地及市场拓展不及预期。

DeepSeekV3：大幅降低训练成本推理成本，对标GPT-4o的性能+远低于4o的训练/推理成本

图表1：DeepSeekV3整体算法架构图表2：DeepSeekV3在主流测试集上的表现对标4o

DeepSeekMoE：

减少训练过程的算

力消耗

Share-专职Expert

Expert每次