2026年人工智能安全基础技能考试及答案.docxVIP

2026年人工智能安全基础技能考试及答案

一、单项选择题（每题2分，共20分）

1.在联邦学习框架下，下列哪项技术最能有效防御模型更新被恶意篡改？

A.同态加密

B.差分隐私

C.安全多方计算

D.梯度压缩

答案：C

解析：安全多方计算（MPC）可在不暴露原始梯度的情况下完成聚合，防止中央服务器直接观察或篡改任一参与方的更新。

2.针对深度强化学习智能体的“策略诱导攻击”通常利用哪类信息实现？

A.环境奖励函数

B.智能体经验回放池

C.策略网络参数

D.动作空间维度

答案：B

解析：攻击者通过注入恶意转移样本到经验回放池，间接污染策略更新，实现诱导。

3.在模型逆向防御中，添加“混淆嵌入”主要干扰攻击者的哪一阶段？

A.梯度计算

B.超参数搜索

C.特征重构

D.损失回溯

答案：C

解析：混淆嵌入在潜在空间引入伪结构，使攻击者难以从输出重构敏感输入特征。

4.对于文本生成模型，以下哪种方法最不可能降低“幻觉”风险？

A.检索增强生成（RAG）

B.强化学习从人类反馈（RLHF）

C.提高温度系数

D.事实一致性奖励塑形

答案：C

解析：温度系数提高会加剧随机性，反而可能增加幻觉。

5.在AI系统安全开发生命周期（SDL）中，“威胁建模”最佳介入时点为：

A.代码冻结后

B.需求评审同时

C.渗透测试阶段

D.上线灰度期

答案：B

解析：越早