电子行业DeepseekR1是AGI的里程碑，中长期利好算力硬件.pdf

目录

DeepSeek算法创新众多，性能表现较好5

OpenAI掀起反攻号角，o3-mini和DeepResearch相继发布9

AI未来尚有星辰大海有待探索，AGI商业化奇点临近13

风险因素15

表目录

表1：建议关注个股15

图目录

图1：DeepseekV3基本架构6

图2：DeepSeek-R1-Zero的“啊哈时刻”7

图3：deepseek性能对标OpenAIo18

图4：deepseek蒸馏小模型在部分测试上性能超越OpenAIo1-mini8

图5：o3-mini具备更强的反重力推理能力9

图6：o3-mini生成了小球在四维空间弹射的代码9

图7：o3-mini理解物理世界的demo9

图8：o3-mini仅用8秒时间就可克隆一个应用10

图9：o3-mini生成的贪吃蛇游戏10

图10：o3-mini生成的射击游戏10

图11：o3-mini生成的漂浮城市10

图12：o3-mini定价对比11

图13：deepresearch在人类终极考试中的成绩12

图14：deepresearch专家级别任务通过率12

图15：谷歌提出的AGI等级13

图16：FIGURE看到的长期机会14

请阅读最后一页免责声明及信息披露4

DeepSeek树立里程碑，挖掘算法创新的价值潜力

DeepseekV3仍是基于Transformer架构的模型，是一个强大的专家混合（MoE）语言

模型，总共有671B个参数，每个令牌激活了37B参数。实现高效的推理和具有成本效益

的训练，DeepSeek-V3采用了多头潜在注意力（MLA）和DeepSeekMoE架构，此外，

DeepSeek-V3开创了一种用于负载均衡的辅助无损策略，并设定了多标记预测训练目标以

获得更强的性能。尽管性能出色，但DeepSeek-V3只需要2.788MH800GPU小时即可

进行完整训练。总结看，DeepSeek-V3主要贡献包括：

架构层面：创新的负载均衡策略和训练目标。

⚫除了DeepSeek-V2的高效架构之外，DeepSeekV3还开创了一种用于负载均衡的辅

助无损策略，该策略可以最大限度地减少因鼓励负载而引起的性能下降。

⚫团队研究了多标记预测（MTP）目标，并证明对模型性能有益，还可用于推理加速的推

测解码。

预训练：迈向终极训练效率。

⚫Deepseek设计了FP8混合训练精度训练框架，并且首次在超大规模模型上验证了FP8

训练的可行性和有效性。

⚫通过算法、框架和硬件的协同设计，DeepSeek克服了跨节点MoE训练中的通信瓶颈，

实现了近乎全计算通信折叠，显著提高了DeepSeek的训练效率并且降低训练成本，

使我们能够在不增加开销的情况下进一步扩大模型大小。

⚫DeepSeek仅以2.664MH800GPU小时的经济成本，在14.8Ttokens上完成了

DeepSeekV3的预训练，生成了当时最强的对外发布的开源基础模型。

后训练：DeepSeek-R1的知识提炼。

⚫DeepSeek引入了一种创新的方法，将CoT的推理能