神经网络理论及应用实践 课件 7.6 CNN 过拟合欠拟合.pptxVIP

卷积神经网络的性能分析

之过拟合与欠拟合主讲人：张洁北京工商大学计算机与信息工程学院

2026/10/11BTBU-CIE2本节概要深度神经网络的性能评价过拟合与欠拟合问题描述过与欠拟合问题解决方案

2026/10/113深度神经网络的超参数三类超参数：数据相关：丰富数据库、数据泛化处理训练相关：训练动量、学习率、衰减函数、正则化方法网络相关：层数、节点数、滤波器数，分类器种类

2026/10/11BTBU-CIE4深度神经网络的性能评价数据集通常分为三类：训练集、验证集、测试集训练模式：多倍交叉验证(cross-validation,cv)数据集

2026/10/11BTBU-CIE5深度神经网络的性能评价评价标准：三个误差训练误差：训练集数据的学习误差交叉验证误差：学习模型在验证集上的平均预测误差测试误差：学习模型在完全独立的测试集上的平均预测误差训练误差测试误差

2026/10/11BTBU-CIE6过拟合和欠拟合的判断方法误差vs训练集大小左端处于过拟合，右端处于欠拟合误差vs模型复杂度：A点处于欠拟合，B点最优，C点处于过拟合方法一：方法二：当Jcv?Jtrain且Jtrain较小时（右侧）模型可能存在过拟合ABC

2026/10/11BTBU-CIE7过拟合和欠拟合过拟合现象的表现：随着训练过程的进行，在trainingdata上的trainin