2025年人工智能安全试题及答案.docxVIP

2025年人工智能安全试题及答案

一、单项选择题（每题2分，共20分）

1.以下哪项不属于人工智能数据安全的核心风险？

A.训练数据中的偏见传播

B.模型推理过程中的计算资源消耗

C.敏感数据（如医疗记录）的泄露

D.数据标注错误导致的模型性能下降

答案：B

解析：数据安全的核心风险围绕数据本身的完整性、隐私性和准确性，计算资源消耗属于模型效率问题，不直接涉及数据安全。

2.对抗样本攻击的本质是：

A.向模型输入合法但经过微小扰动的样本，导致模型错误分类

B.删除训练数据中的关键样本，降低模型泛化能力

C.通过大量请求耗尽模型服务器资源

D.伪造训练数据使模型学习错误模式

答案：A

解析：对抗样本的定义是对输入数据添加人眼不可察觉的扰动，导致模型输出错误结果，与数据投毒（D）、拒绝服务（C）有本质区别。

3.差分隐私（DifferentialPrivacy）的核心目标是：

A.保证数据完全匿名，无法通过任何方式还原个体信息

B.在数据发布时，通过添加噪声使单个个体的信息无法被识别，同时保留整体统计特征

C.对数据进行加密存储，仅授权用户可解密

D.限制数据访问次数，防止过度使用

答案：B

解析：差分隐私通过数学机制（如拉普拉斯噪声）平衡隐私保护与数据可用性，不追求绝对匿名（A错误），与加密（C）、访问限制（D）属于不同技术路径。

4.以下哪种场景最可能触发AI的“伦理困境”？

A.自动驾驶汽车在突发情况下需选择碰撞行人或保护乘客

B.智能客服因语义理解错误导致用户投诉

C.图像识别模型对低分辨率图片分类准确率下降

D.推荐系统因用户行为数据不足导致推荐结果偏差

答案：A

解析：伦理困境涉及价值判断（如生命权优先性），其他选项属于技术缺陷或性能问题。

5.联邦学习（FederatedLearning）的关键优势是：

A.无需中央服务器即可完成模型训练

B.直接共享原始数据，提升模型泛化能力

C.仅传输模型参数而非原始数据，保护数据隐私

D.完全消除模型训练中的数据偏见

答案：C

解析：联邦学习通过“本地训练参数上传全局聚合”模式，避免原始数据流通，核心优势是隐私保护（C正确）；需中央服务器协调（A错误），不共享原始数据（B错误），无法完全消除偏见（D错误）。

6.以下哪项属于AI模型“鲁棒性”（Robustness）的评估指标？

A.模型在训练集上的准确率

B.模型对输入噪声、扰动的容忍能力

C.模型参数的可解释性得分

D.模型推理的计算延迟

答案：B

解析：鲁棒性关注模型在非理想输入（如噪声、对抗样本）下的稳定性，与训练集准确率（A）、可解释性（C）、效率（D）无关。

7.《生成式人工智能服务管理暂行办法》要求生成内容需“可追溯”，其主要目的是：

A.防止虚假信息传播，明确责任主体

B.提升生成内容的质量

C.降低模型训练成本

D.优化用户体验

答案：A

解析：可追溯性通过水印、日志等技术记录内容生成过程，用于事后核查和责任认定，核心是应对虚假信息（如深度伪造）的治理需求。

8.大语言模型（LLM）的“幻觉”（Hallucination）现象指：

A.模型生成与事实不符的内容

B.模型因算力不足导致响应延迟

C.模型对多语言输入的处理能力差异

D.模型参数规模过大导致过拟合

答案：A

解析：幻觉是LLM在缺乏事实依据时生成错误内容的现象（如编造不存在的事件），与性能（B）、多语言（C）、过拟合（D）无关。

9.以下哪种技术最适合用于检测AI生成的文本？

A.基于规则的关键词匹配

B.预训练的生成检测模型（如OpenAI的GPT4Detector）

C.人工逐句核查

D.统计文本中的标点符号频率

答案：B

解析：生成检测模型通过学习AI生成文本的特征（如语法模式、概率分布）进行识别，比规则匹配（A）、人工核查（C）更高效；标点频率（D）无特异性。

10.AI系统的“可解释性”（Interpretability）主要解决的问题是：

A.提升模型的计算效率

B.让用户理解模型决策的依据

C.减少模型训练所需的数据量

D.增强模型对新数据的泛化能力

答案：B

解析：可解释性关注模型决策过程的透明性（如通过特征重要性分析、注意力可视化），帮助用户信任并验证结果，与效率（A）、数据量（C）、泛化（D）无直接关联。

二、填空题（每题2分，共10分）