DeepSeekR1深度解析及算力影响几何.pptx

摘要;第一章;

第一章;R1-Zero验证了大模型仅通过RL就可实现强大推理能力;;R1模型推理任务表现出色;通过蒸馏实现推理能力迁移;DeepSeek中强化学习的核心策略是GRPO策略，GRPO是PPO的改进版本，专门优化数学推理任务，减少计算资源消耗。

GRPO关键改进：

取消价值网络，降低计算资源。PPO需要一个额外的价值网络来估计优势，但GRPO直接用样本组的平均奖励作为基线。这样，GRPO不需要额外训练价值网络，减少GPU计算成本。

采用分组相对奖励，GRPO用多个样本的奖励来计算相对优势，而不是用价值网络估计优势。;KIMI1.5：最好的Short-CoT模型，出色的推理创新;KIMI1.5：四大创新;KIMI1.5：Partialrollout的RL框架创新;KIMI1.5：Long2short技术保证了最强的短推理模型;阿里千问发布Qwen2.5系列模型，性能水平顶尖;Qwen2.5预训练阶段构建了更高质量数据集及专门的上下文训练方式;通过扩大监督微调数据范围以及两阶段强化学习，增强模型处理能力;Qwen2.5-1M和Qwen2.5VL发布，进一步拓展Qwen2.5家族系列;Qwen2.5-Max上线，性能超越DeepSeekV3;OpenAIo1模型;

第二章;;低成本缘由二：FP8混合精度训练框架;低成本缘由三：流水线并行策略提升训练效率;低成本缘由四：跨节点无阻通信设计;;深度推理激发长期算力需求;

第三章;模型案例对比——开关控制灯泡问题;模型案例对比——囚犯抓豆子博弈;模型案例对比——逻辑谜题;模型案例对比——盲人分袜;模型案例对比——数字推理;

第四章;大模型技术发展不及预期：大模型属于先进AI算法，若后续大模型算法更新迭代效果不及预期，则会影响大模型演进及拓展，进而会影响其商业化落地等；

商业化落地不及预期：大模型的商业落地模式在业界中普遍处于探索阶段，用户对于大模型的接受程度和商业化变

现能力可能不及预期；

算力基础设施支持不及预期：美国制裁中国高科技企业，对中国形成芯片、算力的封锁，大语言模型训练过程中需

要大量算力资源，需要关注中美关系带来的算力的压力；

政策监管力度不及预期：大语言模型带来新的网络生态商业，尚属于前期成长阶段，政策监管难度加大，相关法律法规尚不完善，政策监管力度可能不及预期；

数据数量与数据质量不及预期：大型语言模型需要大量的高质量数据进行训练，若数据数量和质量存在短板，则会影响大语言模型效果。

感谢樊文辉、陈思玥、孟龙飞对本报告的贡献。