2025年大模型供应链安全的熵增效应：风险挖掘与熵减策略报告.docxVIP

大模型供应链安全的熵增效应：风险挖掘与熵减策略

Aboutus

戎誉vivo大模型安全工程师，专注于大模型安全研究，涵盖模型框架层安全、AI产品安全等方向。曾发现多个NVIDIA、LLaMA-Factory等主流厂商大模型产品中的安全漏洞，并获得官方致谢。

戎誉

联系方式：rongyu@

凡浩vivo大模型安全工程师，主要从事大模型基础设施和大模型产品的攻防研究，发现过多个NVIDIA等厂商大模型产品的安全漏洞并获得厂商致谢。

凡浩

联系方式：fanhao@

目录

01引子：从“熵”谈起

02熵增效应：供应链失控点与风险实证

03熵减策略：模型供应链风险的控制与治理

04未来展望：低熵模型生态

目录

01引子：从“熵”谈起

02熵增效应：供应链失控点与风险实证

03熵减策略：模型供应链风险的控制与治理

04未来展望：低熵模型生态

安全领域中的“熵”是什么？

H(x)=-

H(x)=-ΣP(x)log2P(x)

安全语境中的熵：系统复杂度与不确定性综合指数

熵值（复杂度/不确定性）熵增效应：组件增加→攻击面扩大→风险上升大模型放大效应：

熵值（复杂度/不确定性）

参数膨胀+外部依赖+第三方输入→高熵系统，失控点分布广

系统组件/依赖数量

系统组件/依赖数量

安全=控熵随着大模型系统复杂度逐渐提升，

安全=控熵

为什么大模型让系统“熵增”？

参数量（亿）I.规模扩张18,00016,00014,00012,00010,0008,0006,0004,0002,000

参数量（亿）

I.规模扩张

18,000

16,000

14,000

12,000

10,000

8,000

6,000

4,000

2,000

0

传统软件：

15,600

10,000

代码→构建→部署

AlibabaQwen3

大模型：

数据采集→数据处理→训练→模型分发→微调→部署→推理→应用→……

Gemini-Ultra

,

PanGu-Σ,10,850

,

Megatron-Turing

Megatron-Turing

LLaMA,6,500

DeepSeek-V3.1,6,710

DeepSeek-V3.1,6,710

,

\PaLM5,400

\PaLM5,400o

Llama3.1,4,050

GPT-3,1,750

Grok

Grok1,3,140

GPT-2,15

Ernie3.0Titan,2,600

熵增201720182019202020212022202320242025

熵增

IV.黑盒特性III.攻击面扩展攻击载荷隐蔽嵌入文件权重文件（.py/.pkl/.mdl/...）用户自定义数据贡献者

IV.黑盒特性

III.攻击面扩展

攻击载荷

隐蔽嵌入文件

权重文件

（.py/.pkl/.mdl/...）

用户自定义数据贡献者

大模型供应链结构解构+风险点

上游中游下游

采集阶段网页数据投毒处理阶段数据集投毒

采集阶段

网页数据投毒

处理阶段数据集投毒

训练推理应用训练数据

训练

推理

应用

数据

RAG投毒沙箱逃逸

RAG投毒

沙箱逃逸

SSRF

依赖

指令注入恶意模型DoS

指令注入

恶意模型

DoS

未授权访问

模型分发

模型分发

大模型供应链结构解构+风险点

上游中游下游

采集阶段网页数据投毒处理阶段数据集投毒

采集阶段

网页数据投毒

处理阶段数据集投毒

训练推理应用训练数据

训练

推理

应用

数据

RAG投毒沙箱逃逸

RAG投毒

沙箱逃逸

SSRF

依赖

指令注入恶意模型DoS

指令注入

恶意模型

DoS

未授权访问

模型分发

模型分发

大模型供应链结构解构+风险点

上游中游