线性判别函数-Fisher.pptVIP

因为： 其中： 标量 忽略比例因子 w*为准则函数的极大值解，即为X空间到Y空间的最佳投影方向。 根据变换公式： 把d维空间的样本集X映射成一维空间样本集Y。 决策规则： 如何确定阈值y0？ 几种一维分类问题的基本原则 维数d和样本数N很大时，用贝叶斯决策规则 否则，使用先验知识确定阈值点y0如： 线性判别函数 已知条件 贝叶斯决策 实际问题 利用样本集直接设计分类器，即给定某个判别函数类，然后利用样本集确定出判别函数中的未知参数。 条件未知 一类简单的判别函数：线性判别函数 线性判别函数(discriminant function)是指由x的各个分量的线性组合而成的函数 ，一般表达式为： 权向量（weight vector） 法向量（normal vector） 阈值（threshold） 偏置（bias） 对于两类问题的决策规则为： 如果g(x)0，则判定x属于C1， 如果g(x)0，则判定x属于C2， 如果g(x)=0，可将x任意分到某一类，或拒绝。 两类情况: 方程g(x)=0定义了一个判定面，它把归类于C1的点与归类于C2的点分开来。 当g(x)是线性函数时，这个平面被称为“超平面” (hyperplane)。 若x1,x2在H上，即： w和超平面H上任意向量正交，即w是H的法向量。 任意x，在H上投影 xp X与xp距离r 多类的情况： 将c类问题转化为c个两类