原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
训练网络;;网络构建和编译完成后，即可将训练样本传入网络进行训练。
在训练网络过程中，可通过调整迭代次数、批训练等参数的值，对网络训练过程进行优化。
训练网络时，通过设置epochs参数调整训练中网络的迭代次数，epochs的值为多少就表示所有训练样本被传入网络训练多少轮（如epochs为1，表示所有训练样本被传入网络训练一轮）。
当设置的迭代次数的值过小时，训练得到的模型效果较差，可以适当增加迭代次数的大小，从而优化模型的效果。
但是，当迭代次数的值太大时（数据特征有限），可能会导致模型过拟合、训练时间过长等问题，因此，用户可以根据自身的情况设置一个合适的迭代次数。
;在迭代训练的过程中，损失值会随着迭代次数的变化而变化，在迭代次数的增加的过程中，损失值可能会呈现波动变化趋势，即有增有减。
也存在损失值随迭代次数的增加而减少的情况，如果到达一定的迭代次数后损失值已基本稳定在一个值附近，此时继续训练可能会导致过拟合。
用户可以根据训练过程中的损失值和准确率的变化趋势适当调整迭代次数的值，当趋势逐渐平稳时，迭代次数的值较为理想。
;;理论上，在训练网络时，如果将完整的训练样本一次性输入到网络中，使用梯度下降的机制可以得到理想的参数变换方向。
但是，在深度学习的任务中，样本的量往往是极大的，一次性输入网络后，对所有的参数根据梯度进行修正所需的计算量难以估计。
为解决计算量过大的问题，批训练应运而生。
批训练会在网络训练时从总体中抽取部分数据用于梯度下降，直到总体中的全部样本均完成训练后，则完成了一次完整的训练周期。
;运用批训练的好处主要有2个。
内存利用率提高，大矩阵乘法的并行化效率提高。
通常在合理的范围内，训练中使用的批量大小越大，梯度下降方向越趋向于总体样本的梯度下降方向，训练时引起的损失的震荡越小。
可以根据当前计算机的硬件指标来设置批量大小参数的大小，一般根据计算机的GPU显存资源或CPU性能功率来设置。
若设置的值太大，则可能会因为显存不足导致训练终止；若设置的值太小，没有充分利用GPU或CPU的计算能力，则训练时间会较长。
;;将迭代次数设置为200，批量大小batch_size在2.1.3节的函数load_data的设置中已设置为10。
最后加入编译网络的优化器和损失函数，即可开始训练网络。;
文档评论（0）