2026年人工智能应用安全(模型安全实操)综合测试题及答案.docxVIP

  • 10
  • 0
  • 约5.37千字
  • 约 18页
  • 2026-03-28 发布于四川
  • 举报

2026年人工智能应用安全(模型安全实操)综合测试题及答案.docx

2026年人工智能应用安全(模型安全实操)综合测试题及答案

一、单项选择题(每题2分,共20分)

1.在对抗样本生成中,以下哪种攻击方式属于白盒攻击?

A.FGSM

B.ZOO

C.HopSkipJump

D.BoundaryAttack

答案:A

解析:FGSM(FastGradientSignMethod)需要模型梯度信息,属于白盒攻击;其余三项均为黑盒或有限信息攻击。

2.下列哪项技术最适用于检测模型是否被植入后门?

A.LIME

B.NeuralCleanse

C.SHAP

D.Grad-CAM

答案:B

解析:NeuralCleanse通过逆向触发器检测异常神经元激活,是后门检测的代表方法。

3.联邦学习场景下,哪类攻击可直接导致全局模型收敛到攻击者指定的目标?

A.数据投毒

B.模型投毒

C.梯度泄露

D.成员推理

答案:B

解析:模型投毒(如Byzantine攻击)可上传恶意参数,扭曲全局更新。

4.在模型水印方案中,以下哪项属性最能抵抗模型剪枝?

A.参数冗余

B.激活边界

C.权重显著性

D.特征图统计

答案:D

解析:基于特征图统计的水印嵌入中层表征,剪枝对统计量影响较小。

5.当使用差分隐私训练时,噪声尺度ε与隐私预算的关系是:

A.ε越大,隐私保护越强

B.ε越小,隐私保护越弱

C.ε与隐私保护无关

D.ε

文档评论(0)

1亿VIP精品文档

相关文档