2023能源大数据竞赛练习试卷附答案.doc

第 PAGE Page 1 页 / 共 NUMPAGES Pages 1 页 2023能源大数据竞赛练习试卷附答案 1.已经为所有隐藏的单位建立了一个使用tanh激活的网络。使用np.random.randn(…, …)*1000将权重初始化为相对较大的值。会发生什么？ A、没关系。只要随机初始化权重，梯度下降不受权重大小的影响。 B、这将导致tanh的输入也非常大，从而导致梯度也变大。因此，必须将设置得非常小，以防止发散；这将减慢学习速度。 C、这将导致tanh的输入也非常大，导致单元被“高度激活”。与权重从小值开始相比，加快了学习速度。 D、这将导致tanh的输入也非常大，从而