2025年大模型供应链安全的熵增效应：风险挖掘与熵减策略报告.pptxVIP

大模型供应链安全的熵增效应：风险挖掘与熵减策略;

vivo大模型安全工程师，专注于大模型安全研究，涵盖模型框架层安全、AI产品安全

等方向。曾发现多个NVIDIA、LLaMA-Factory等主流厂商大模型产品中的安全漏洞，并获得官方致谢。

联系方式：rongyu@

vivo大模型安全工程师，主要从事大模型基础设施和大模型产品的攻防研究，发现过多

个NVIDIA等厂商大模型产品的安全漏洞并获得厂商致谢。

联系方式：fanhao@;

目录

01引子：从“熵”谈起

02熵增效应：供应链失控点与风险实证

03熵减策略：模型供应链风险的控制与治理

04未来展望：低熵模型生态;

02熵增效应：供应链失控点与风险实证

03熵减策略：模型供应链风险的控制与治理

04未来展望：低熵模型生态;

熵的起源：热力学→信息论

安全语境中的熵：系统复杂度与不确定性综合指数

熵增效应：组件增加→攻击面扩大→风险上升

大模型放大效应：

参数膨胀+外部依赖+第三方输入→高熵系统，失控点分布广;

II.供应链延伸

传统软件：

代码→构建→部署

大模型：

数据采集→数据处理→训练→模型分发→微调→部署→推理→应用→……;;;;;;;

目录

01引子：从“熵”谈起;;

使用爬虫自动抓取未经审查的互联网内容，可

能引入恶意载荷。

js2py支持在js中导入并使用python包，攻

击者可以在js2py环境中用一个python对象找到subprocess.Popen()类，实现RCE。

关键启示：

?数据不是简单无害的纯文本

?自动化的处理流程存在安全隐患;

Megatron-LM中未经校验传入恶意数据集时

导致RCE风险CVE-2025-23349;;

Megatron-LM中未经校验传入恶意数据集时

导致RCE风险CVE-2025-23349;

Megatron-LM中未经校验传入恶意参数导致

RCECVE-2025-23306;;

训练阶段-训练框架漏洞

指令注入;

训练阶段-训练框架漏洞

恶意模型;;

ms-swift中未经校验加载嵌入恶意代码的模型导致RCECVE-2025-50472;;

训练阶段-训练框架漏洞

恶意模型关键启示：;

推理阶段-供应链投毒

设想：如果不做模型训练，全部使用三方资源进行模型推理部署，需要引入哪些依赖？;;

fromtransformersimportAutoModelForCausalLM,AutoTokenizermodel_name=Qwen/Qwen3-Next-80B-A3B-Instruct

#使用“用户名/模型名”的命名形式进行模型的自动下载、加载tokenizer=AutoTokenizer.from_pretrained(model_name)model=AutoModelForCausalLM.from_pretrained(

model_name,

dtype=auto,

device_map=auto,

);

模型命名复用（Hugging;

模型命名复用(;

-name:CommitandPushChanges

if:(github.event_name==pull_request||github.event_name==pull_request_target)github.event.action!=closed

run:|

gitconfig--global${{inputs.github_username}}

gitconfig--globaluser.email${{inputs.github_email}}gitpullorigin${{github.head_ref||github.ref}}

…;

以最近的;

TensorRT-LLM;

推理框架漏洞：ollama未授权访问

ollama