2025年线性代数神经网络中的前向传播试题.docVIP

2025年线性代数神经网络中的前向传播试题

一、基础概念辨析题（共30分）

1.1矩阵维度匹配原则（15分）

某全连接神经网络包含输入层（3个特征）、隐藏层1（5个神经元）、隐藏层2（4个神经元）和输出层（2个神经元），请回答：

（1）写出各层权重矩阵W1、W2、W3的维度，并解释维度确定依据。

（2）若输入样本为单个特征向量x（维度3×1），计算各层偏置向量b1、b2、b3的维度及线性变换结果z1、z2、z3的维度。

（3）当输入为包含m个样本的批量数据X时，写出X的维度及向量化计算中Z1的表达式。

1.2激活函数特性分析（15分）

针对ReLU函数σ(z)=max(0,z)和Sigmoid函数σ(z)=1/(1+e??)，完成以下分析：

（1）计算σ(0)、σ(0)的值（其中σ表示导数）。

（2）说明为何ReLU函数能缓解深层网络中的梯度消失问题。

（3）若某隐藏层输出z2的维度为4×1，经过ReLU激活后的a2维度是多少？激活前后数据的稀疏性有何变化？

二、计算题（共50分）

2.1单样本前向传播（25分）

已知三层神经网络参数如下：

输入层x=[1,2,3]^T（T表示转置）

隐藏层1：W1=[[0.1,0.2,0.3],[0.4,0.5,0.6],[0.7,0.8,0.9]]，b1=[0.1,0.2,0.3]^T，激活函数为ReL