2025年信息系统安全专家人工智能算法安全加固与防护专题试卷及解析.pdfVIP

2025年信息系统安全专家人工智能算法安全加固与防护专题试卷及解析1

2025年信息系统安全专家人工智能算法安全加固与防护专

题试卷及解析

2025年信息系统安全专家人工智能算法安全加固与防护专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在对抗性攻击中，攻击者通过向输入数据添加微小扰动来欺骗模型，这种攻击

方式被称为？

A、数据投毒攻击

B、模型窃取攻击

C、规避攻击

D、成员推理攻击

【答案】C

【解析】正确答案是C。规避攻击是指通过精心构造的对抗样本使模型做出错误分

类，而数据投毒是污染训练数据，模型窃取是复制模型功能，成员推理是判断某数据是

否在训练集中。知识点：对抗性攻击分类。易错点：容易混淆规避攻击和数据投毒攻击，

前者针对推理阶段，后者针对训练阶段。

2、联邦学习中，为保护用户隐私而常用的差分隐私技术主要解决什么问题？

A、防止模型过拟合

B、限制单个用户数据对全局模型的影响

C、加速模型收敛

D、减少通信开销

【答案】B

【解析】正确答案是B。差分隐私通过添加噪声确保单个数据点的加入/移除不会显

著影响查询结果，从而保护隐私。A、C、D是其他优化目标。知识点：隐私保护技术。

易错点：需区分差分隐私与同态加密的应用场景。

3、以下哪种技术最适合检测深度学习模型中的后门攻击？

A、梯度掩码

B、神经元激活分析

C、数据增强

D、剪枝优化

【答案】B

【解析】正确答案是B。后门攻击会导致特定触发器激活异常神经元，通过分析激

活模式可有效检测。A是防御梯度攻击，C是提高泛化性，D是模型压缩。知识点：后

门攻击检测。易错点：可能误选A，但梯度掩码主要针对对抗样本而非后门。

4、在模型安全评估中，“鲁棒性”通常指模型在什么条件下的表现？

2025年信息系统安全专家人工智能算法安全加固与防护专题试卷及解析2

A、训练数据充足时

B、存在对抗扰动时

C、硬件资源受限时

D、多任务学习时

【答案】B

【解析】正确答案是B。鲁棒性特指模型在输入被恶意扰动时保持正确输出的能力。

A是泛化性，C是效率，D是迁移能力。知识点：模型安全指标。易错点：需与”泛化

性”概念区分。

5、AI供应链攻击中，最容易被忽视的环节是？

A、预训练模型下载

B、超参数调优

C、数据标注外包

D、日志记录

【答案】C

【解析】正确答案是C。数据标注外包常涉及第三方人员，易被植入恶意样本。A、

B、D通常受内部管控。知识点：AI供应链安全。易错点：可能低估数据环节的风险。

6、针对自然语言处理模型的提示注入攻击，最有效的防御措施是？

A、输入过滤

B、模型微调

C、输出校验

D、以上组合

【答案】D

【解析】正确答案是D。单一防御难以覆盖所有攻击向量，需综合输入过滤、微调

安全指令和输出校验。知识点：提示注入防御。易错点：过度依赖单一技术。

7、在可信AI框架中，“公平性”评估最关注？

A、模型准确率

B、不同群体的性能差异

C、训练数据量

D、推理速度

【答案】B

【解析】正确答案是B。公平性核心是确保模型对不同群体（如性别、种族）无偏

见。A、C、D是其他维度。知识点：可信AI原则。易错点：可能误选A，但准确率不

等于公平性。

8、以下哪种加密技术最适合保护云端AI模型的推理隐私？

A、对称加密

2025年信息系统安全专家人工智能算法安全加固与防护专题试卷及解析3

B、安全多方计算

C、哈希函数

D、数字签名

【答案】B

【解析】正确答案是B。安全多方计算允许在不解密数据的情况下进行模型推理。A、

C、D无法满足此需求。知识点：隐私计算技术。易错点：需区分不同加密技术的应