2025年信息系统安全专家人工智能安全策略专题试卷及解析.pdfVIP

2025年信息系统安全专家人工智能安全策略专题试卷及解析1

2025年信息系统安全专家人工智能安全策略专题试卷及解

析

2025年信息系统安全专家人工智能安全策略专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在人工智能安全中，对抗性攻击的主要目标是什么？

A、窃取训练数据

B、破坏模型性能或误导模型输出

C、加速模型训练过程

D、降低模型存储需求

【答案】B

【解析】正确答案是B。对抗性攻击通过在输入数据中添加微小扰动来欺骗AI模

型，导致其做出错误判断。A是数据泄露问题，C和D与攻击无关。知识点：对抗性

攻击原理。易错点：将对抗性攻击与数据窃取混淆。

2、联邦学习在隐私保护中的核心优势是？

A、完全消除数据泄露风险

B、无需共享原始数据即可训练模型

C、提高模型推理速度

D、减少计算资源消耗

【答案】B

【解析】正确答案是B。联邦学习通过在本地设备训练模型并仅共享参数，避免原

始数据集中。A错误，仍存在梯度泄露等风险；C、D与隐私保护无关。知识点：联邦

学习隐私机制。易错点：误认为联邦学习能100%保证隐私。

3、AI模型安全审计最应关注的风险是？

A、模型训练时间过长

B、模型可解释性不足

C、模型部署成本过高

D、模型预测准确率波动

【答案】B

【解析】正确答案是B。可解释性不足导致难以发现模型漏洞和偏见，是安全审计

重点。A、C是效率问题，D是性能问题。知识点：AI模型可解释性。易错点：将性能

指标等同于安全指标。

4、差分隐私技术主要用于解决什么问题？

A、防止模型过拟合

B、保护个体数据不被识别

2025年信息系统安全专家人工智能安全策略专题试卷及解析2

C、提高模型泛化能力

D、加速模型收敛

【答案】B

【解析】正确答案是B。差分隐私通过添加噪声使查询结果不依赖任何个体数据。A、

C、D是模型优化问题。知识点：差分隐私原理。易错点：混淆隐私保护与模型优化目

标。

5、AI供应链安全中，最容易被忽视的环节是？

A、开源模型组件漏洞

B、训练数据质量

C、硬件设备安全

D、网络传输加密

【答案】A

【解析】正确答案是A。开源组件常存在未修复漏洞，但企业往往缺乏对其安全审

计。B、C、D是常规关注点。知识点：AI供应链风险管理。易错点：低估第三方组件

风险。

6、生成式AI最可能被滥用于？

A、自动化代码审查

B、制造深度伪造内容

C、优化数据标注流程

D、提升模型可解释性

【答案】B

【解析】正确答案是B。生成式AI可轻易制造虚假音视频，引发欺诈和舆论操纵。

A、C、D是合法应用场景。知识点：生成式AI安全风险。易错点：忽视技术双刃剑特

性。

7、AI伦理审查中，算法偏见的主要来源是？

A、模型结构设计

B、训练数据偏差

C、硬件性能限制

D、用户操作习惯

【答案】B

【解析】正确答案是B。训练数据中的社会偏见会被模型学习并放大。A、C、D影

响性能而非偏见。知识点：算法偏见成因。易错点：将技术问题与数据问题割裂。

8、AI系统安全防护的”纵深防御”策略不包括？

A、输入数据过滤

B、模型加密存储

2025年信息系统安全专家人工智能安全策略专题试卷及解析3

C、单一防火墙部署

D、异常行为监控

【答案】C

【解析】正确答案是C。纵深防御强调多层防护，单一防火墙违背此原则。A、B、D

都是多层防护措施。知识点：纵深防御模型。易错点：混淆单点防护与多层防护。

9、AI安全测试中，红队演练的主要目的是？

A、验证模型功能正确性

B、模拟攻击发现漏洞