AI 模型安全工程师考试试卷及答案.docVIP

AI模型安全工程师考试试卷及答案

一、填空题（共10题，每题1分）

1.AI模型训练数据泄露的常见风险之一是______攻击，通过查询模型输出推断训练数据。

2.差分隐私中，衡量隐私保护强度的指标是______。

3.对抗样本攻击中，使模型误分类的微小扰动称为______。

4.联邦学习中，客户端上传的是______而非原始数据。

5.模型水印的核心是嵌入______证明所有权。

6.AI模型安全评估的经典框架是______MLTop10。

7.后门攻击中，触发错误输出的特定输入是______。

8.针对输入扰动的模型鲁棒性测试称为______测试。

9.联邦学习的隐私风险之一是______攻击（分析梯度推断数据）。

10.生成式AI的有害内容风险称为______风险。

二、单项选择题（共10题，每题2分）

1.以下属于模型窃取攻击的是？

A.成员推理B.模型复制C.对抗样本D.差分隐私

2.差分隐私通过添加______保护数据隐私？

A.噪声B.加密C.水印D.触发器

3.不属于OWASPMLTop10风险类别的是？

A.数据泄露B.模型窃取C.鲁棒性不足D.训练速度慢

4.联邦学习的主要优势是？

A.提高准确率B.保护数据隐私C.降低成本D.加速推理

5.对抗样本攻击的目标是？

A.窃取参数B.推断训练数据C.使模型误分类D.嵌入后门

6.GDPR可解释性要求包括？

A.提供