- 6
- 0
- 约1.01千字
- 约 1页
- 2020-10-30 发布于天津
- 举报
一些人会怀疑:难道神经网络不是最先进的技术?
编者按:在机器学习面前,我们都像一个孩子。当刚学会反向传播算法时,
许多人会不满足于最基础的感知器,去尝试搭建更深、层数更多的神经网络。他们欣赏着
自己的实现, 就像沙滩上的孩子骄傲地看着自己用泥沙堆起来的城堡。 但和城堡的徒有其
表一样,这些神经网络的性能往往也难以令人满意,它们也许会陷入无休止的训练,也许
准确率永远提不上来。这时,一些人就会开始怀疑:难道神经网络不是最先进的技术?
类似的怀疑,谁都有过——
神经网络的训练过程包括前向传播和反向传播两个部分, 如果前向传播得到的预测结果和
实际结果不符,这就说明网络没有训练好,要用反向传播去重新调整各个权重。这之中涉
及各种常见的优化算法, 以梯度下降为例,它的思路是把当前梯度的负值方向作为搜索方
向,通过调整权重使目标函数趋近局部最小值,也就是让代价函数 / 损失函数越来越小。
如上式所述,梯度下降算法用原权重减去乘上标量 α (0 到 1 之间)的梯度来更新权重,
并“重复”这一
您可能关注的文档
- 【理科综合试题】云南师大附中2018届高考适应性月考卷(二)理科综合试题.pdf
- 【甘肃兰州、张掖一诊】甘肃省兰州市、张掖市高三第一次诊断考试历史试题含解析.pdf
- 【生物】广东省中山市2015-2016学年高一上学期期末考试.pdf
- 【生物】河北省保定市2015-2016学年高一上学期期末考试.pdf
- 【生物】重庆市南开中学2015-2016学年高二下学期期中测试.pdf
- 【知识点】初中数学你必须掌握的60个易错点!.pdf
- 【答案】青岛市春季高考第一次模拟考试.pdf
- 【简易通,创新设计】(福建专用)高三地理二轮复习地理基本技能“考学练”大冲关训练题:专题12工农业生.pdf
- 【简易通,创新设计】(福建专用)高三地理二轮复习地理基本技能“考学练”大冲关训练题:专题19环境保护.pdf
- 【简易通,创新设计】(福建专用)高三地理二轮复习地理基本技能“考学练”大冲关训练题:专题2地理统计.pdf
- 码垛机器人国产替代调研.docx
- 2025-2030中国基因测序仪器国产替代进程与市场空间评估.docx
- 2025-2030中国碳化硅功率器件在新能源车中应用渗透与国产替代机遇报告.docx
- 2025-2030中国半导体材料国产替代进程与进口依赖度分析战略研究报告.docx
- 毫米波雷达国产替代研判.docx
- 2025-2030中国电子特气行业进口依赖现状与国产替代机遇.docx
- 2025-2030中国工业软件自主可控路径与国产替代机会报告.docx
- 2025-2030中国MEMS传感器产业链整合与国产替代机遇研究报告.docx
- 中美技术脱钩的上游断供冲击与国产替代的渗透率临界阈值 .docx
- 2025-2030中国第三代半导体氮化镓射频器件国产替代进程与市场机会评估.docx
原创力文档

文档评论(0)