2026年人工智能算法安全性考试试题及答案.docxVIP

2026年人工智能算法安全性考试试题及答案

一、单项选择题（每题2分，共20分）

1.在对抗样本攻击中，攻击者通过添加微小的扰动使模型产生错误分类，这种扰动通常满足什么约束？

A.扰动幅度尽可能大

B.扰动幅度尽可能小，且肉眼不可察觉

C.扰动必须改变所有像素

D.扰动必须使模型输出置信度最高

答案B

2.以下哪种方法不属于对抗训练（AdversarialTraining）的范畴？

A.使用PGD攻击生成对抗样本并加入训练集

B.在训练时对输入进行随机平滑

C.使用FGSM生成对抗样本进行训练

D.将对抗样本与原始样本混合训练

答案B

3.差分隐私的核心参数?（epsilon）越小，表示隐私保护程度？

A.越高，但数据可用性可能降低

B.越低，数据可用性提高

C.不变

D.越高，数据可用性也越高

答案A

4.在联邦学习中，恶意参与者可能通过修改本地模型更新来破坏全局模型，这种攻击属于？

A.投毒攻击

B.对抗攻击

C.隐私推断攻击

D.模型窃取攻击

答案A

5.模型可解释性中，LIME（LocalInterpretableModel-agnosticExplanations）的核心思想是？

A.训练一个全局可解释的模型

B.在局部用简单模型近似复杂模型

C.使用注意力机制

D.通过梯度可视化

答案