工程实践中的问题.PDF

226 | 跟着Python 代码学卷积神经网络 第11 章 工程实践中的问题 通过前面章节的学习，现在可以采集数据集、设计网络结构、选 定超参数、训练模型，训练结束后，部署模型，在实践中检验模型效 果。如果模型达到预期效果，则皆大欢喜；如果没有达到预期效果， 我们该如何提高性能呢？ 有很多手段可以改善模型性能：采用不同的网络架构，如 VGG 和ResNet 等；改变模型容量，如增加网络深度或宽度；尝试不同的优 化算法，如 Adam 优化算法；改变超参数，如更改学习率和正则化的 强度；尝试批量归一化BN ；更改激活函数，如ELU ；尝试Dropout ； 增加训练时间；收集更多数据；收集分布更广的数据。 有如此之多的手段，我们该如何根据实际情况选择呢？为了使模 型部署达到预期效果，应该按顺序确保四件事情。 首先，必须确保模型在训练集上得到不错的性能，对于某些应用， 可能意味着达到人类的水平。模型在训练集效果不好，主要原因是欠 拟合，需要增加模型学习能力。可以采用的手段有采用更好的网络构 第 11 章 工程实践中的问题 |227 架、增大模型容量、更好的优化算法如 Adam 、更改学习率和减小正 则化强度、采用不同的激活函