2025年AI安全安全意识测试卷.docxVIP

2025年AI安全安全意识测试卷

考试时间：______分钟总分：______分姓名：______

一、选择题（请将正确选项字母填入括号内）

1.以下哪项不是AI安全主要关注的风险领域？

A.模型被恶意攻击导致输出错误

B.训练数据中存在偏见导致模型决策不公平

C.AI系统资源消耗过大导致服务中断

D.AI模型被用于生成虚假信息进行欺诈

2.在AI模型训练过程中，攻击者通过向训练数据中注入精心设计的扰动，旨在（）。

A.提高模型的计算效率

B.降低模型的复杂度

C.使模型在特定输入下产生错误的输出

D.增强模型的泛化能力

3.以下哪种技术主要用于保护AI模型在推理阶段不被恶意输入欺骗（对抗样本）？

A.数据加密

B.访问控制

C.对抗训练

D.安全审计

4.对于涉及个人隐私数据的AI应用，以下做法最不安全的是？

A.对原始数据进行匿名化处理后使用

B.仅授权必要人员访问脱敏数据

C.将包含原始信息的完整数据集用于模型训练

D.使用加密技术存储和传输数据

5.欧盟《人工智能法案》将AI系统分为不同风险等级，其中禁止使用的AI系统是？

A.具有特定风险但符合严格透明度要求的AI系