2025年DeepSeek模型优势：算力、成本角度解读报告-浙江大学（王则可）.docx

DeepSeek模型优势：算力、成本角度解读

浙江大学计算机学院

浙江大学人工智能协同创新中心

王则可

2025年2月

DeepSeek优势

DeepSeek的优势：系统感知的算法创新(量化基因)算法：霸榜，有创新(MLA、特定MoE)

■系统：低成本、高性能

浙江大学ZHEJIANGUNIVERSITY算力的基本概念

浙江大学

ZHEJIANGUNIVERSITY

■什么算力?“对信息数据进行计算，实现目标结果的能力”

■传统算力：信息计算力

■现代算力：信息计算力、数据存储力、网络运载力

浙江大学ZHEJIANGUNIVERSITY

浙江大学

ZHEJIANGUNIVERSITY

大脑草绳、石子算盘、算筹?计算器、计算机

■原生算力：大脑(可处理复杂逻辑，但不能高速处理简单运算)

外部算力工具：

■草绳、石子■算盘

■计算机：算力提供者(可高速简单运算，不能处理复杂逻辑)

浙江大学ZHEJIANGUNIVERSITY

浙江大学

ZHEJIANGUNIVERSITY

“Ithinkthereisaworldmarketformaybefivecomputers.

(我想全世界只需要五台电脑)

--ThomasWatson,IBM创始人，1943

大型机时代1940-

1980

■大型机时代：数字化未开始，算力需求潜力未发掘

浙江大学ZHEJIANG

浙江大学

ZHEJIANGUNIVERSITY

大型机时代PC时代云计算时代人工智能时代

1940-1980-2000-2020-

198020002020

■大型机时代：数字化未开始，算力需求潜力未发掘PC时代：一个应用只需一台电脑，算力够

■云计算时代：应用需要超过一台机器的算力，算力基本够

■人工智能时代：算力开始不足，需大量高性能Al加速器

人工智能大模型算力估计

浙江大学

ZHEJIANGUNIVERSITY

■人工智能大模型算力估计

1,数据量(D)15*模型参数量(N)

■万亿模型(N)=1000*109=1012

■数据量(D)15*1012=1.5*10132,计算次数C≈6*N*D

■万亿模型计算次数C≈6*N*D≈1.5*1025

OpenAI.ScalingLawsforNeuralLanguageModels,2020

浙江大学ZHEJIANGUNIVERSITY人工智能计算平台成本估计

浙江大学

ZHEJIANGUNIVERSITY

算力存力运力

算力(每秒)

显存

运力

生态

政策风险

成本

华为910B

320T=3.2*1014

32GB

240GB/s

较好

无

12万

英伟达H800

1000T=1015

80GB

900GB/s

好

有

25万

■万亿大模型预训练系统成本估计

■条件：计算量C≈6*N*D≈1.5*1025

■最低时间、成本估计

■单H800(25万):1.5*1010秒(174000天)

■1000张H800(2.5亿):1.5*107秒(174天)

浙江大学ZHEJIANGUNIVERSITY大模型指导法则ScalingLaw:富则火力覆盖

浙江大学

ZHEJIANGUNIVERSITY

数据集模型参数量算

数据集模型参数量

7

6

TestLoss5

TestLoss

4

3

----L=(Cmin/2.3·108))-0.050

----

2+

10110-910-310-1

101

10-9

Parametersnon-embeddingDataset

Parameters

non-embedding

DatasetSize

tokens

PF-days,non-embedding

■大模型扩展规律(资本非常喜欢确定性故事)

■算力：算力越大(X轴),模型效果越好(Tes