- 1
- 0
- 约9.05千字
- 约 11页
- 2026-11-09 发布于上海
- 举报
深度学习工程师
一、单项选择题(共10题,每题1分,共10分)
关于反向传播中的梯度消失问题,以下哪种说法最准确?
A.由于链式法则,若各层导数均小于1,梯度从输出层向输入层传播时会指数级减小
B.梯度消失只在网络层数大于100时出现
C.使用均方误差分类损失可以彻底避免梯度消失
D.增大学习率一定可以消除梯度消失
答案:A
解析:反向传播通过链式法则逐层相乘。如果每层导数都小于1,多层相乘后梯度会指数级减小,使浅层参数难以更新,这是梯度消失的核心原因。网络层数不多时也可能出现;均方误差损失并不能保证梯度不消失;增大学习率可能加剧训练不稳定,不能消除梯度消失。
与Sigmoid相比,ReLU作为隐藏层激活函数的主要优势是:
A.在正区间导数恒为1,能有效缓解深层梯度连乘导致的梯度消失
B.ReLU的输出均值始终为0,有利于下一层
C.对所有输入导数都为1,梯度永远不会消失
D.使用ReLU后不再需要参数初始化
答案:A
解析:ReLU在正区间梯度为1,负区间梯度为0,因此可以减弱多层连乘时梯度衰减问题,但并不是对所有输入梯度都为1。Sigmoid输出均值不为0,ReLU输出均值也不为0;无论使用什么激活函数,都需要合理的参数初始化。
对于二分类问题,输出层使用Sigmoid并采用二元交叉熵损失,主要原因是:
A.Sigmoid能将输出约束在(0,1)之间,配合交叉
您可能关注的文档
- 2026年地下停车场建设项目合作协议.docx
- 国庆黄金周文旅活动策划方案.docx
- 肺癌术后康复护理查房.pptx
- 2026年公证员资格考试试卷及答案.docx
- 土地管理法集体土地征收补偿条款解读.docx
- 运动表现分析中大数据与生物力学的融合应用.docx
- 边缘性龈炎的日常护理.docx
- 慢性眼干细胞治疗的护理.docx
- 痛风饮水指导护理查房.pptx
- 新生儿颅内出血的体位护理.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 7.散文诗二首—第1课时—金色花.pptx
- 消化慢病居家情志饮食宣教.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 5 秋天的怀念 (4).pptx
- 外伤后髓海受损痰瘀蒙窍的中医个案护理.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 7.散文诗二首—第2课时—荷叶 母亲.pptx
- 消化道息肉切除术后迟发性穿孔出血的预防及护理.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 7《散文诗二首》第1课时.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 7_ 散文诗二首.pptx
- 部编版七年级上册语文 第二单元 人间至爱,亲情永在 5 秋天的怀念 (6).pptx
- 消化内科功能性腹痛综合征长期躯体化疼痛的护理措施.pptx
最近下载
- 五年级数学小数混合运算计算专项练习题(每日一练,共9份).docx VIP
- 五年级数学小数混合运算计算专项练习题(每日一练,共11份).pdf VIP
- 五年级数学小数混合运算计算专项练习题(每日一练,共20份).docx VIP
- 特斯拉实体店培训.pptx VIP
- 五年级数学小数混合运算计算专项练习题(每日一练,共27份).docx VIP
- 小学五年级数学小数混合运算计算专项练习题(每日一练,共17份 ).pdf VIP
- 小学五年级数学小数混合运算计算专项练习题(每日一练,共17份).docx VIP
- 小学五年级数学小数混合运算计算专项练习题(每日一练,共18份).pdf VIP
- 2026年全国消防宣传月:火灾风险分级与防范 不同场景防火要点培训PPT课件.pptx VIP
- 电力变压器电磁计算.pdf VIP
原创力文档

文档评论(0)