2026年人工智能安全理论考试试题及答案.docxVIP

2026年人工智能安全理论考试试题及答案

一、单项选择题（每题2分，共20分）

1.在对抗样本生成中，若目标模型为f(x)，扰动预算为ε，则满足‖δ‖∞≤ε的约束通常被称为

A.L0范数约束??B.L1范数约束??C.L∞范数约束??D.L2范数约束

答案：C

解析：L∞范数约束限制每个像素的最大改变量，是图像领域最常用的扰动预算。

2.联邦学习框架下，恶意客户端通过上传放大梯度试图使全局模型偏向自身后门样本，该攻击被称为

A.模型逆向攻击??B.梯度泄露攻击??C.后门投毒攻击??D.成员推理攻击

答案：C

解析：后门投毒通过控制局部训练数据与梯度，植入隐藏触发器，全局聚合后触发误分类。

3.对于差分隐私机制，若随机机制M满足ε–DP，则对于任意相邻数据集D,D′及任意输出S，有

A.Pr[M(D)∈S]≤e^ε·Pr[M(D′)∈S]??B.Pr[M(D)∈S]≥e^ε·Pr[M(D′)∈S]

C.Pr[M(D)∈S]=Pr[M(D′)∈S]??D.Pr[M(D)∈S]+Pr[M(D′)∈S]≤1

答案：A

解析：ε–DP定义要求输出概率比不超过e^ε。

4.在模型水印技术中，若验证方仅需黑盒访问即可检测所有权，则该方法属于

A.白盒水印??B.黑盒水印??C.灰盒水印??D.参数水印

答案：B

解析：黑盒水印通过输入特定触发集观察输出分布，无需