2026年人工智能安全测试基础考试试题及答案.docxVIP

2026年人工智能安全测试基础考试试题及答案

一、单项选择题（每题2分，共20分）

1.在对抗样本生成中，以下哪种攻击方式属于白盒攻击？

A.FGSM

B.ZOO

C.HopSkipJump

D.BoundaryAttack

答案：A

解析：FGSM（FastGradientSignMethod）需要模型梯度信息，属于白盒攻击；其余三项可在黑盒条件下实施。

2.针对模型窃取防御，以下哪项技术最直接地隐藏了梯度信息？

A.差分隐私

B.梯度压缩

C.梯度混淆

D.知识蒸馏

答案：C

解析：梯度混淆通过添加噪声或离散化梯度，使攻击者难以准确估计原始梯度，从而阻碍模型窃取。

3.在联邦学习场景下，哪类攻击可通过上传恶意权重直接改变全局模型？

A.数据投毒

B.模型投毒

C.成员推理

D.属性推理

答案：B

解析：模型投毒指客户端上传精心构造的恶意权重，直接污染全局模型参数。

4.若需验证人脸识别模型在口罩遮挡下的鲁棒性，最合适的测试集构建方法是：

A.对抗样本迁移

B.物理世界采样

C.合成口罩渲染

D.灰盒查询攻击

答案：C

解析：合成口罩渲染可在不泄露真实人脸的前提下快速生成大规模带口罩人脸，兼顾伦理与效率。

5.以下哪项指标最能反映模型在遭受后门攻击后的实际风险？

A.平均准确率

B.攻击成功率

C.负对数似然

D.F1-score