- 1、本文档共17页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
?DeepSeek近期成为科技圈最炙手可热的明星企业:DeepSeek近期分别发布大模型DeepSeek-v3和推理模型R1,前者在大模型主流榜单的开源模型中位列榜首,并与世界上最先进的闭源模型不分伯仲;后者性能对标OpenAI的o1正式版,在数学、代码和自然语言推理等任务上表现卓越。以上两个模型均通过算法和架构的创新,大幅降低了训练成本和推理成本,为AI技术的普及与创新作出了卓越的贡献。DeepSeek相关模型自从推出后,立刻占据全球科技头条并引发巨大关注,我们认为,DeepSeek呈现出的算法创新、性能表现、开源属性等多重因素,将对AI应用与算力行业产生深远的影响。
?DeepSeek在模型训练与推理中采用了多项技术创新:DeepSeek-V3实现了多项工程技术上的创新,包括通过FP8精度训练、DualPipe双向流水线等技术降低训练成本,通过优化MoE负载均衡、多头潜在注意力机制(MLA)来降低推理成本,并通过多Token预测(MTP)以及模型蒸馏来进一步提升模型性能,最终用极低的成本完成了训练过程,与此同时推理的成本也较其他模型有大幅下降。而R1-Zero的目标是验证纯RL能否激发模型的自主推理能力,探索无监督强化学习的潜力,而R1则通过数据引导+多阶段优化,平衡推理性能和实用价值,目标是打造更符合人类偏好的通用推理模型,两个模型均实现了较为理想的效果。
?DeepSeek将对AI算力与应用产生结构性影响:由于DeepSeek-V3、R1等模型通过算法与架构层面的多重创新大幅降低了训练端算力消耗,不过我们认为,在各模型公司仍致力于训练出性能更强大模型的目标指引下,庞大的训练集群将仍然被产业所追逐,训练算力长期看仍有前景和空间。而推理算力的需求空间则更为乐观,
我们认为推理成本的大幅下降将带来需求更大幅度的增长,而在这样的过程中,算力需求结构可能将会改变,而美国如果进一步收紧AI芯片供应,则可能对国产芯片形成利好。而另一方面,此前AI应用的普及及其商业化还存在一定的困难,一方面在于模型性能仍然没法满足众多场景的需求,尤其是在推理能力和多模态环节,另一方面则是闭源模型性能领???但API调用的成本过高,影响了AI应用的大范围普及,我们认为,DeepSeek的强推理能力、低算力成本、开源属性,使得其对AI应用的普及有望发挥重要的作用。;
目录
引言...............................................................................................................4
一、DeepSeek-V3、R1模型推出后“火”遍全球..............................................4
1.1DeepSeek-V3性能表现不输全球顶尖模型...................................................................4
1.2R1模型实现了比肩OpenAIo1的推理能力..................................................................5
1.3DeepSeek-V3、R1模型在产业中引发巨大反响...........................................................7
二、DeepSeek模型训练与推理技术创新解析................................................8
2.1DeepSeek-V3模型采用了多项创新技术......................................................................8
2.2R1-Zero与R1模型尝试强化学习边界.......................................................................10
三、DeepSeek将对AI算力与应用产生结构性影响.....................................11
3.1DeepSeek模型有望引发算力需求与市场结构变化........................................
您可能关注的文档
- DeepSeek+DeepResearch — 让科研像聊天一样简单 何静.pptx
- 一文读懂DeepSeek+浙商证券-大模型行业专题报告.pdf
- 一文读懂DeepSeek+浙商证券-大模型行业专题报告.pptx
- DeepSeek惊艳世界,算力与应用将迎来结构性变化+东方证券-计算机行业深度报告.pdf
- DeepSeek+DeepResearch应用报告 清华大学.pptx
- 建筑材料行业:低空经济催化正盛,关注新老基建投资机会-华西证券.pptx
- 国防军工行业低空经济月报:低空经济2025年展望-中航证券.pptx
- 2024年度领导干部个人专题民主生活会、组织生活会对照检查材料(四个带头)和意见建议汇总.docx
- 在2025年国企纪检监察工作会议上的报告材料.docx
- 领导干部2024年民主生活会、组织生活会对照检查发言材料(四个带头).docx
- 市直机关工委及个人述职述廉2024年党建工作情况报告材料.docx
- 区委书记在2025年一季度经济运行部署会议上的讲话发言材料.docx
- 市直机关单位、卫健委党支部2024年工作述职报告材料.docx
- 市委副书记、市长在2025年市委城乡规划委员会第一次会议上的讲话发言材料.docx
- 某单位领导干部2024年生活会、组织生活会对照检查材料(对照“四个带头”).docx
- 2024年民政局、宣传部、教育局基层主要领导个人述责述廉报告材料.docx
- 2025年2月党支部“三会一课”参考主题方案.docx
- 在某中学2025年春季开学典礼上的讲话:以“三重境界”燃动新学期.docx
- 2024年度领导干部专题民主生活会、组织生活会对照检查材料(四个带头)及学习研讨会上的发言材料.docx
- 市纪委市监委2025年度纪检监察工作计划.docx
最近下载
- 施乐DC C2265 C2263 C2260中文维修手册.pdf
- 2024年全国各省市中考真题汇编:一次函数压轴(word含解析).doc VIP
- 常用矽钢片直流磁化曲线.xls
- 基于Silvaco-TCAD的InGaAsInP探测器仿真.docx
- 《小巴掌童话》阅读导读课.docx
- Purchase Contract(采购合同范本英文版)7篇.docx
- DB62T 4867-2023 公路桥梁预应力后张法施工技术规范.pdf VIP
- 《机械装配技术(第3版)》教学课件—04密封件的装配.ppt VIP
- 144KD课件.docx
- 2024年辽宁铁道职业技术学院单招英语考试题库及答案解析.docx
文档评论(0)