2025年线性代数联邦学习中的模型聚合试题.docVIP

2025年线性代数联邦学习中的模型聚合试题

一、基础理论综合题

（一）矩阵表示与联邦平均算法

问题描述：假设有3个客户端参与横向联邦学习，本地模型参数分别为矩阵(W_1\in\mathbb{R}^{d\timesm})、(W_2\in\mathbb{R}^{d\timesm})、(W_3\in\mathbb{R}^{d\timesm})，数据量占比分别为20%、30%、50%。

写出基于数据量加权的联邦平均（FedAvg）全局模型聚合公式，并计算当(W_1=\begin{bmatrix}12\34\end{bmatrix})，(W_2=\begin{bmatrix}56\78\end{bmatrix})，(W_3=\begin{bmatrix}910\1112\end{bmatrix})时的全局模型(W_{global})。

若引入正则化项(\lambda\sum_{i=1}^3|W_i-W_{global}|_F^2)（(\lambda=0.1)），推导聚合公式的修正形式，并分析正则化对模型参数稀疏性的影响。

解答要点：

加权聚合公式：(W_{global}=0.2W_1+0.3W_2+0.5W_3)，代入数据得(W