模式识别第四章线性判别函数.pptVIP

第四章 线性判别函数 主要内容 4.1 引言 基于样本的Bayes分类器：通过估计类条件概率密度函数，设计相应的判别函数 直接确定判别函数 基于样本的直接确定判别函数方法： 针对各种不同的情况，使用不同的准则函数，设计出满足这些不同准则要求的分类器。 这些准则的“最优”并不一定与错误率最小相一致：次优分类器。 实例：正态分布最小错误率贝叶斯分类器在特殊情况下，是线性判别函数g(x)=wTx（决策面是超平面），能否基于样本直接确定w? 线性判别函数 d 维空间中的线性判别函数的一般形式： 线性判别函数的几何意义 决策面(decision boundary)H方程：g(x)=0 向量w是决策面H的法向量 g(x)是点x到决策面H的距离的一种代数度量 证明：权向量是决策面的法向量 设点 、 在决策面H中，故它们满足方程，有： 上两式相减，可得： 这表明向量 与向量 正交，由于 、是H平面中的任意两点，故 与决策面H正交，是H平面的法向量。 证明：判别函数g(x)绝对值正比于x到决策面H的距离 证明：判别函数值的正负表示出特征点位于哪个半空间中 广义线性判别函数 线性判别函数是形式最为简单的判别函数，但是它不能用于复杂情况。 例：设计一个一维分类器，使其功能为： 广义线性判别函数 广义线性判别函数(2) 按照上述原理，任何非线性