6-线性分类器设计-第六章.pptVIP

因此下降算法不论XTX是否奇异，总能产生一个解。 若训练样本无限的重复出现，则简化为 W1任意 Wk+1=Wk+ρk(bk-WkTXk) Xk ρk随迭代次数k而减少，以保证算法收敛于满意的W值 Fisher分类准则 现在讨论通过 映射投影来降低 维数的方法。 X空间 X= WTX-W00 X∈ω1 X= WTX-W00 X∈ω2 映射Y空间 Y=WTY-W00 X∈ ω1 Y=WTY-W00 X∈ω2 把X空间各点投影到Y空间一直线上，维数由2维降为一 维。若适当选择W的方向，可以使二类分开。下面我们从 数学上寻找最好的投影方向，即寻找最好的变换向量W的 问题。 w(y) w y1 y2 x2 x1 ω1 ω2 投影样本之间的分离性用投影样本之差表示