AI应用安全与伦理规范2026年专项培训模拟试题及答案.docx

AI应用安全与伦理规范2026年专项培训模拟试题及答案

一、单项选择题（共20题，每题1.5分，共30分。每题只有一个正确选项，请选择最符合题意的答案。）

1.在人工智能安全领域，攻击者通过在输入数据中添加人类感官无法察觉的微小扰动，从而导致模型输出错误分类的攻击方式被称为：

A.数据投毒攻击

B.对抗样本攻击

C.模型逆向攻击

D.联邦学习攻击

【答案】B

【解析】对抗样本攻击是指在输入数据中故意添加难以察觉的扰动，导致深度学习模型做出高置信度的错误判断。数据投毒是污染训练集，模型逆向是推测模型参数，联邦学习攻击主要针对分布式训练过程。

2.根据中国《生成式人工智能服务管理暂行办法》