2025年信息系统安全专家人工智能模型推理攻击与防御专题试卷及解析.pdfVIP

2025年信息系统安全专家人工智能模型推理攻击与防御专题试卷及解析1

2025年信息系统安全专家人工智能模型推理攻击与防御专

题试卷及解析

2025年信息系统安全专家人工智能模型推理攻击与防御专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在人工智能模型推理攻击中，攻击者通过精心构造的输入样本，导致模型输出

错误结果，这种攻击方式被称为？

A、数据投毒攻击

B、模型窃取攻击

C、对抗样本攻击

D、成员推理攻击

【答案】C

【解析】正确答案是C。对抗样本攻击是指通过在原始输入中添加微小扰动，使得

模型在人类无法察觉的情况下产生错误分类。A选项数据投毒攻击是污染训练数据；B

选项模型窃取攻击是复制模型功能；D选项成员推理攻击是判断特定数据是否在训练

集中。知识点：对抗样本攻击的基本概念。易错点：容易与数据投毒攻击混淆，需注意

攻击发生在推理阶段而非训练阶段。

2、以下哪种防御技术通过在训练过程中加入对抗样本来提升模型鲁棒性？

A、输入验证

B、对抗训练

C、模型剪枝

D、差分隐私

【答案】B

【解析】正确答案是B。对抗训练是一种主动防御方法，通过在训练集中加入对抗

样本，使模型学会识别并抵抗这类攻击。A选项输入验证是被动防御；C选项模型剪枝

主要提升效率；D选项差分隐私保护训练数据隐私。知识点：主动防御技术原理。易错

点：需区分主动防御与被动防御的区别。

3、在模型窃取攻击中，攻击者通常采用哪种方法来复现目标模型？

A、暴力破解

B、查询模型API并训练替代模型

C、物理窃取模型文件

D、篡改模型参数

【答案】B

【解析】正确答案是B。模型窃取攻击通过大量查询目标模型API，收集输入输出

对，然后训练替代模型来模拟目标行为。A选项暴力破解不适用于模型窃取；C选项物

2025年信息系统安全专家人工智能模型推理攻击与防御专题试卷及解析2

理窃取属于传统攻击；D选项篡改参数是破坏性攻击。知识点：模型窃取攻击的实现方

式。易错点：容易与API滥用攻击混淆。

4、以下哪种攻击方式属于隐私推理攻击？

A、规避攻击

B、成员推理攻击

C、后门攻击

D、模型反转攻击

【答案】B

【解析】正确答案是B。成员推理攻击通过分析模型输出，判断特定数据是否参与

训练，属于隐私推理攻击。A选项规避攻击是改变输入以欺骗模型；C选项后门攻击是

植入隐藏功能；D选项模型反转攻击是重构训练数据。知识点：隐私推理攻击分类。易

错点：需区分隐私攻击与完整性攻击。

5、在防御对抗样本攻击时，梯度掩蔽技术的核心思想是？

A、增加训练数据

B、隐藏或修改模型梯度信息

C、限制输入范围

D、使用多个模型集成

【答案】B

【解析】正确答案是B。梯度掩蔽通过隐藏或修改模型梯度信息，使攻击者难以构

造有效的对抗样本。A选项增加训练数据不能直接防御对抗样本；C选项限制输入范围

是输入验证；D选项模型集成可以提升鲁棒性但不是梯度掩蔽的核心。知识点：梯度掩

蔽防御原理。易错点：容易与对抗训练混淆。

6、以下哪种攻击方式不需要访问模型内部参数？

A、白盒攻击

B、黑盒攻击

C、灰盒攻击

D、模型提取攻击

【答案】B

【解析】正确答案是B。黑盒攻击仅通过模型输入输出进行攻击，无需内部参数。A

选项白盒攻击需要完全访问模型；C选项灰盒攻击需要部分信息；D选项模型提取攻击

是黑盒攻击的一种。知识点：攻击者知识分类。易错点：需明确不同攻击场景下的信息

获取权限。

7、在防御成员推理攻击时，以下哪种方法最有效？

A、增加模型复杂度

B、限制查询次数

2025年信息系统安全专家人工智能模型推理攻击与防御专题试卷及解析3

C、使用差分隐私

D、提高训练数据量

【答案】C