2025年信息系统安全专家人工智能安全设计与架构实践专题试卷及解析.pdf

2025年信息系统安全专家人工智能安全设计与架构实践专题试卷及解析1

2025年信息系统安全专家人工智能安全设计与架构实践专

题试卷及解析

2025年信息系统安全专家人工智能安全设计与架构实践专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在人工智能系统安全设计中，针对对抗性攻击的防御措施，以下哪种方法主要

通过增加训练数据的多样性来提升模型鲁棒性？

A、对抗性训练

B、梯度掩码

C、输入预处理

D、模型蒸馏

【答案】A

【解析】正确答案是A。对抗性训练通过在训练过程中加入对抗样本，使模型学习

到更鲁棒的特征表示，从而提升对未知对抗攻击的防御能力。B选项梯度掩码通过隐藏

梯度信息来防御攻击，但容易被绕过；C选项输入预处理主要针对输入数据的噪声和异

常值；D选项模型蒸馏通过简化模型结构提升效率，但对抗防御效果有限。知识点：对

抗性攻击防御方法。易错点：混淆对抗性训练与梯度掩码的原理差异。

2、在AI系统的隐私保护技术中，差分隐私主要用于解决以下哪类问题？

A、模型推理阶段的隐私泄露

B、训练数据的统计信息泄露

C、模型参数的逆向工程

D、用户输入数据的实时加密

【答案】B

【解析】正确答案是B。差分隐私通过在查询结果中添加噪声，确保单个数据点的

加入或移除对统计结果影响有限，从而保护训练数据的隐私。A选项推理阶段隐私泄露

通常由联邦学习或同态加密解决；C选项逆向工程防御需依赖模型水印等技术；D选项

实时加密属于传输层安全措施。知识点：差分隐私应用场景。易错点：误认为差分隐私

适用于所有隐私保护场景。

3、在AI安全架构设计中，零信任架构的核心原则是？

A、默认信任内部网络流量

B、基于身份的动态访问控制

C、依赖防火墙隔离威胁

D、集中式权限管理

【答案】B

2025年信息系统安全专家人工智能安全设计与架构实践专题试卷及解析2

【解析】正确答案是B。零信任架构强调“从不信任，始终验证”，通过动态评估身份、

设备、行为等要素实现精细化访问控制。A选项与传统边界安全模型矛盾；C选项防火

墙属于静态防御手段；D选项集中式管理不符合零信任的分布式验证理念。知识点：零

信任架构原则。易错点：混淆零信任与传统边界安全模型的区别。

4、针对AI模型的供应链攻击，以下哪种措施最能有效防止恶意代码注入？

A、模型加密存储

B、依赖项完整性校验

C、输入数据验证

D、模型版本回滚

【答案】B

【解析】正确答案是B。依赖项完整性校验通过哈希值验证第三方库或预训练模型

的来源可信性，防止恶意代码注入。A选项加密存储仅保护静态数据；C选项输入验证

无法解决供应链问题；D选项版本回滚属于事后补救措施。知识点：AI供应链安全防

护。易错点：忽视依赖项验证的重要性。

5、在联邦学习中，以下哪种攻击方式主要通过分析模型更新梯度来推断用户隐私？

A、模型反演攻击

B、成员推断攻击

C、梯度泄露攻击

D、投毒攻击

【答案】C

【解析】正确答案是C。梯度泄露攻击通过分析客户端上传的梯度更新，逆向推导

原始训练数据。A选项模型反演攻击针对输出结果；B选项成员推断攻击判断数据是否

属于训练集；D选项投毒攻击通过污染数据影响模型性能。知识点：联邦学习隐私攻击

类型。易错点：混淆不同攻击的目标和方法。

6、AI系统的可解释性技术中，LIME方法的主要特点是？

A、全局解释模型行为

B、基于局部线性近似

C、依赖特征重要性排序

D、仅适用于深度学习模型

【答案】B

【解析】正确答案是B。LIME通过局部扰动生成样本，拟合线性模型解释单个预

测结果。A选项全局解释需依赖SHAP等方法；C选项特征重要性属于传统可解释性

方法；D选项LIME可适用于多种模型类型。知识点：可解释性AI技术原理。易错点：

混淆LIME与SHAP的适用范围。

7、在AI安全审计中，以下哪项指