2025年人工智能安全与伦理考试试题及答案.docxVIP

2025年人工智能安全与伦理考试试题及答案

一、单项选择题（每题2分，共20分）

1.2024年3月，欧盟《人工智能法案》最终文本将哪一类AI系统首次明确列入“禁止性实践”清单？

A.基于深度伪造的实时人脸识别系统

B.用于信用评分的机器学习模型

C.面向儿童的情感识别教育软件

D.医疗影像辅助诊断系统

答案：A

解析：法案第5条明确禁止在公共空间使用实时远程生物识别系统，除非符合严格例外。

2.在联邦学习场景下，哪一项技术最能有效防御“模型逆向攻击”？

A.差分隐私噪声注入

B.梯度压缩

C.知识蒸馏

D.权重平均

答案：A

解析：差分隐私通过数学噪声限制单个样本对梯度的影响，阻断攻击者还原原始数据。

3.2025年1月，NIST发布的AI风险管理框架更新版首次将哪一概念纳入“治理”核心职能？

A.红队测试

B.伦理影响声明

C.算法审计日志

D.模型卡

答案：B

解析：更新版在治理职能中新增“伦理影响声明”作为组织级文档，要求覆盖全生命周期。

4.当生成式大模型输出包含受版权保护代码片段时，依据2024年美国特拉华州法院判决，哪一抗辩理由最可能被法院采纳？

A.合理使用中的“转换性使用”

B.技术中性原则

C.算法黑箱不可解释

D.数据最小化原则

答案：A

解析：法院在GitHubCopilot案中强调输出是否新增表达、功能或意义，转换性使用成为关键。

5.在多智能体强化学习系统中，若出现“智能体合谋”导致市场垄断，依据2025年《中国人工智能伦理办法》，首要责任主体是：

A.云计算平台提供商

B.模型部署者

C.数据提供方

D.终端用户

答案：B

解析：办法第18条将“部署者”定义为对系统运行具有实质控制权的责任主体。

6.2024年10月，英国AI安全峰会提出的“FrontierAI”监管沙盒优先测试的风险类别是：

A.化学武器设计辅助

B.儿童心理健康对话

C.低资源语言翻译

D.农作物病害识别

答案：A

解析：峰会技术演示中，红队成功诱导模型输出VX神经毒子的合成路径，被列为最高优先级。

7.在模型安全评估中，哪项指标最能量化“提示注入”攻击的成功率？

A.BLEU下降率

B.攻击成功回合占比（ASR）

C.困惑度（Perplexity）

D.F1score

答案：B

解析：ASR直接衡量攻击者输入恶意提示后模型违背原始指令的比例。

8.2025年ISO42001标准对“AI系统供应链”提出的新增要求是：

A.第三级芯片级溯源

B.开源许可证兼容性检查

C.数据主体同意链

D.模型权重哈希上链

答案：A

解析：标准附录F要求对7nm及以下制程AI芯片进行晶圆厂、封装厂、测试厂三级溯源。

9.当使用合成数据训练医疗大模型时，依据FDA2025年草案，必须提交的文档是：

A.合成数据生成算法源代码

B.真实患者数据脱敏报告

C.生成数据分布与真实数据KL散度曲线

D.数据捐赠者知情同意书

答案：C

解析：FDA要求提供KL散度0.05的统计证据，证明合成数据分布与真实临床分布一致。

10.在“可解释AI”监管中，欧盟法案要求高风险系统提供的“显著解释”必须满足：

A.技术文档仅限监管机构查阅

B.终端用户可理解的视觉交互

C.模型权重完全公开

D.训练数据可下载

答案：B

解析：法案第13条要求面向终端用户的解释需以“清晰可理解的语言”呈现，无需公开权重。

二、多项选择题（每题3分，共15分）

11.以下哪些行为被《人工智能生成合成内容管理办法（2025）》明确认定为“深度伪造”违法使用？

A.未经同意生成他人语音用于诈骗

B.为电影特效制作已故演员数字人并获得家属授权

C.在时事新闻中插入AI生成但未标记的爆炸视频

D.为学术研究生成虚拟人物演讲并标注“AI合成”

答案：A、C

解析：办法第6条允许授权与标注例外，A、C未满足授权或标记要求。

12.关于红队测试，以下说法正确的是：

A.需覆盖数据投毒、模型窃取、提示注入三类攻击

B.测试报告至少保存五年

C.可外包给无安全许可的第三方初创公司

D.必须在模型上线前完成一次即可

答案：A、B

解析：2025年NISTAIRMF要求覆盖三类攻击，报告保存五年，外包需同等安全资质，并需持续测试。

13.在“算法偏见”审计中，以下哪些指标可用于衡量性别歧视？