《模式识别原理、应用及实现》 课件 4.6均方误差最小算法.pptVIP

4.6最小平方误差算法武汉理工大学1.基本思想上述的感知器算法、梯度算法、固定增量算法或其他类似方法，只有当模式类可分离时才收敛，在不可分的情况下，算法会来回摆动，始终不收敛。当一次次迭代而又不见收敛时，造成不收敛现象的原因分不清，有两种可能：a)迭代过程本身收敛缓慢b)模式本身不可分对可分模式收敛。对于类别不可分的情况也能指出来。LMSE算法特点：两类分类问题的解相当于求一组线性不等式的解。如果给出分属于，两个模式类的训练样本集，应满足：其中，Xi是规范化增广样本向量，。上式分开写为：2.分类器的不等式方程写成矩阵形式为：令N×(n+1)的长方矩阵为X，则变为：2.分类器的不等式方程式中：0为零向量感知器算法是通过解不等式组，求出W。2.分类器的不等式方程3.LMSE算法原理的求解。式中：∴两式等价。为各分量均为正值的矢量。LMSE算法把对满足XW0的求解，改为满足①在方程组中当行数列数时，通常无解，称为矛盾方程组