2025年机器学习工程师联邦学习安全案例面试题(含答案与解析).docxVIP

2025年机器学习工程师联邦学习安全案例面试题(含答案与解析)

问题1：某金融机构计划基于联邦学习构建联合风控模型，参与方包括3家银行和1家保险机构，数据涉及用户信贷记录、还款行为、资产状况等敏感信息。在联邦学习训练过程中，中心服务器发现某轮次本地模型参数更新量异常（较历史均值高300%），且该参与方的模型在测试集上的AUC指标突然提升15%。请分析可能的安全风险，并提出至少3种验证手段及对应的防御策略。

答案：

可能的安全风险包括：

（1）模型投毒攻击（ModelPoisoning）：恶意参与方通过注入毒化数据（如伪造高风险用户的异常还款记录），诱导全局模型学习错误模式，导致线上部署后对真实风险误判。

（2）梯度反转攻击（GradientInversion）：异常参数更新可能是攻击者通过构造特殊梯度，试图从共享的梯度/参数中恢复原始训练数据（如通过逆向提供用户具体信贷金额、逾期天数等敏感信息）。

（3）拜占庭攻击（ByzantineAttack）：恶意节点故意提交错误参数（如放大权重系数），破坏全局模型收敛性，导致模型在关键风险场景下失效。

验证手段及防御策略：

①异常参数溯源分析：提取该参与方本轮次上传的参数与历史参数的差值（Δθ），计算其L2范数与历史均值的偏离度（如设定阈值为均值±2σ）。若偏离度超过阈值，触发回溯验证——要求该参与方提供本轮