2025年信息系统安全专家人工智能联邦学习与差分隐私技术专题试卷及解析.pdf

2025年信息系统安全专家人工智能联邦学习与差分隐私技术专题试卷及解析1

2025年信息系统安全专家人工智能联邦学习与差分隐私技

术专题试卷及解析

2025年信息系统安全专家人工智能联邦学习与差分隐私技术专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在联邦学习中，下列哪项描述最准确地体现了其核心思想？

A、将所有数据集中到中央服务器进行模型训练

B、在本地设备上训练模型，仅将模型更新参数上传至服务器聚合

C、通过加密技术保护数据传输过程中的隐私

D、使用差分隐私技术对原始数据进行扰动

【答案】B

【解析】正确答案是B。联邦学习的核心思想是“数据不动模型动”，即在本地设备上

利用本地数据训练模型，仅将模型更新参数（如梯度）上传至中央服务器进行聚合，从

而避免原始数据离开本地。A选项描述的是传统集中式机器学习，与联邦学习相反；C

选项是联邦学习可能采用的技术手段，但非核心思想；D选项是另一种隐私保护技术，

与联邦学习是互补关系而非核心概念。知识点：联邦学习基本原理。易错点：容易将联

邦学习与差分隐私、加密传输等技术混淆，需明确其核心是分布式训练模式。

2、差分隐私技术主要通过哪种方式实现隐私保护？

A、对数据进行加密存储

B、限制数据访问权限

C、在查询结果中添加可控噪声

D、对数据进行匿名化处理

【答案】C

【解析】正确答案是C。差分隐私的核心机制是在数据查询或发布结果中添加经过

精确计算的随机噪声，使得攻击者无法通过结果反推出任何单个个体的信息，从而提供

可证明的隐私保障。A选项是传统数据安全手段；B选项是访问控制；D选项如k匿名

等方法无法提供差分隐私那样的严格数学证明。知识点：差分隐私实现机制。易错点：

容易将差分隐私与普通匿名化技术混淆，需注意其数学基础和噪声添加的特性。

3、在联邦学习中，哪种攻击方式试图通过分析模型更新参数来推断客户端的原始

数据？

A、模型反演攻击

B、成员推断攻击

C、数据重构攻击

D、投毒攻击

【答案】C

2025年信息系统安全专家人工智能联邦学习与差分隐私技术专题试卷及解析2

【解析】正确答案是C。数据重构攻击（也称模型逆向攻击）是联邦学习中的主要

隐私威胁之一，攻击者通过分析客户端上传的梯度或模型参数，尝试重构出客户端的本

地训练数据。A选项通常针对黑盒模型；B选项判断某个样本是否在训练集中；D选项

是恶意客户端通过上传恶意参数破坏模型。知识点：联邦学习隐私攻击类型。易错点：

容易混淆不同攻击的目标，数据重构攻击关注原始数据内容，而成员推断关注数据存在

性。

4、下列关于联邦学习中的安全聚合协议，描述正确的是？

A、它允许服务器查看每个客户端的单独更新

B、它主要目的是提高模型训练速度

C、它确保服务器只能获得聚合后的模型更新，无法获取单个客户端的更新

D、它使用同态加密技术对本地数据进行加密

【答案】C

【解析】正确答案是C。安全聚合协议（如SecAgg）的目的是在模型聚合过程中保

护客户端隐私，确保服务器只能得到所有客户端更新的聚合结果，而无法窥探任何单个

客户端的更新内容。A选项与安全聚合目标相反；B选项是性能优化目标；D选项同态

加密可能用于安全聚合，但安全聚合的核心是聚合过程的隐私保护而非数据加密。知识

点：联邦学习安全聚合。易错点：需区分安全聚合与普通加密传输，前者关注聚合过程

的隐私，后者关注传输安全。

5、在差分隐私中，隐私预算（epsilon）的作用是？

A、控制添加噪声的大小

B、限制查询次数

C、指定数据集规模

D、确定模型复杂度

【答案】A

【解析】正确答案是A。隐私预算是差分隐私中的关键参数，它直接控制添加噪

声的规模：越小，添加的噪声越大，隐私保护越强但数据实用性越低；越大，噪声越

小，实用性提高但隐私保护减弱。B、C、D选项均与无关。知识点：差分隐私参数理

解。易错点：容易混淆与（delta）的作用，是主