模式识别第3章人工神经网络及模式识别概述.ppt

BP算法的问题 BP算法解决了隐层权值修正问题。可以用于三层或更多层的前馈网络。 问题： 可能陷入局部极小点，不能达到全局收敛。 初始权值不能设为0或都相同（此时，各隐层单元无差异，运算不能正常进行）。 初始权值对收敛有影响。 解决办法： 用较小的随机数做初始权值。 不收敛时，改变权值，试算。 * * 参数η和α的影响 η ：影响收敛性影响 不同的问题其最佳值相差很大 通常可在0.1~0.3之间试探，复杂的问题用较大的值。 α ：影响收敛速度 在很多应用中其值可在0.9~1之间选择（比如0.95) α≥1 时，不收敛； 也可不用惯性项（即α =0）。 * * * * MLP用于模式识别 三层网络可以应付任何问题，但对于较复杂的问题，更多层的网络有可能获得更精简的结果。 输入层：由特征向量构成。输入单元数是特征维数 输出层：由类别构成。输出单元数目可以是类数。 隐层单元数：单元数目如何确定则缺乏有效的方法。 问题越复杂，需要的隐层单元越多； 隐层单元越多越容易收敛。但会增加计算量，而且会产生“过学习”效果，使对未出现过的样本的推广能力变差。 隐层单元数难以确定时，可以先选较多单元数，待学习完成后，再逐步删除一些隐层单元。若性能明显变坏，则恢复原状，逐个测试各隐层单元的贡献，把不必