2025年人工智能安全试题及答案.docxVIP

2025年人工智能安全试题及答案

一、单项选择题（每题2分，共20分）

1.以下哪种攻击方式通过向训练数据中注入特定扰动，导致模型在测试时对特定输入产生错误预测？

A.对抗样本攻击

B.数据投毒攻击

C.模型窃取攻击

D.后门攻击

2.联邦学习中，为防止中心服务器通过梯度信息反推原始数据，通常采用的核心技术是？

A.同态加密

B.差分隐私

C.联邦聚类

D.模型蒸馏

3.某AI招聘系统对女性求职者的简历评分显著低于同等条件男性，这主要反映了AI系统的哪类安全风险？

A.数据泄露风险

B.模型鲁棒性风险

C.算法公平性风险

D.伦理越界风险

4.以下哪项不属于AI系统可解释性的评估指标？

A.忠实性（Fidelity）

B.简洁性（Simplicity）

C.对抗鲁棒性（AdversarialRobustness）

D.可理解性（Understandability）

5.针对AI模型的“成员推理攻击”主要威胁的是？

A.模型参数的完整性

B.训练数据的隐私性

C.模型输出的准确性

D.系统接口的可用性

6.某自动驾驶系统在暴雨天气下因视觉传感器数据模糊导致误判，这属于AI安全中的哪类问题？

A.数据质量问题

B.模型泛化能力问题

C.算法偏见问题

D.伦理决策问题

7.以下哪种技术可用于检测AI模型中的后门触发模式？

A.激活聚类分析（ActivationClustering）

B.模型剪枝（ModelPruning）

C.知识蒸馏（KnowledgeDistillation）

D.迁移学习（TransferLearning）

8.AI伦理中的“可追责性”原则要求？

A.系统输出结果必须可被人类理解

B.系统决策过程需记录完整审计日志

C.系统设计需避免对特定群体的歧视

D.系统需具备自我纠错能力

9.针对大语言模型的“提示注入攻击”（PromptInjection）主要利用了模型的哪一特性？

A.上下文理解能力

B.生成内容的开放性

C.多轮对话连贯性

D.知识推理局限性

10.以下哪项是AI系统安全评估的“红队测试”核心目标？

A.验证系统在正常场景下的性能

B.模拟真实攻击场景暴露系统漏洞

C.评估模型参数的计算效率

D.检查训练数据的标注一致性

二、填空题（每空2分，共20分）

1.AI系统的安全维度通常包括数据安全、模型安全和________三个层面。

2.数据脱敏技术中，通过添加随机噪声使个体数据无法被精确识别的方法称为________。

3.模型后门攻击的触发条件通常包括特定的输入模式和________。

4.AI伦理风险评估的五个核心维度是：公平性、隐私性、可解释性、________和可追责性。

5.对抗训练的核心思想是通过向训练数据中添加________，提升模型对扰动的鲁棒性。

6.联邦学习按参与方数据分布差异可分为横向联邦、纵向联邦和________三种类型。

7.算法公平性中的“机会平等”要求不同群体在________上具有相同概率。

8.AI系统的“灰盒测试”指测试者已知部分系统信息（如模型结构），但未知________。

9.大模型参数窃取攻击中，攻击者通过________（如查询输出结果）逆向推断模型权重。

10.伦理审查中“最小必要原则”要求AI系统仅收集和处理________的信息。

三、简答题（每题8分，共40分）

1.简述数据隐私保护中“差分隐私”的核心原理，并举例说明其在AI训练中的应用。

2.模型鲁棒性的定义是什么？请列举三种提升AI模型鲁棒性的技术方法。

3.算法公平性评估需要关注哪些关键指标？请至少说明其中两种指标的具体含义。

4.AI伦理审查的关键步骤包括哪些？请结合医疗诊断AI的场景说明审查重点。

5.什么是AI系统的“漏洞挖掘”？请对比黑盒测试与白盒测试在漏洞挖掘中的优缺点。

四、案例分析题（20分）

背景：某医院引入的AI辅助诊断系统在试运行期间，对糖尿病患者的误诊率高达15%（行业平均为5%）。经调查发现：

-训练数据中60%为男性患者病例，女性患者仅占40%；

-模型在暗光环境下对眼底图像的特征提取能力显著下降；

-系统未记录诊断过程的中间推理步骤，医生无法追溯误判原因。

问题：

（1）分析该AI系统存在的安全风险，需结合数据、