模式识别第五讲-二次、线性分类要点.ppt

一. 两类问题的二次和线性分类器 对于似然比检验的决策规则： *?北京工业大学计算机学院? 在一定的分布和条件下（如正态、等协方差矩阵），贝叶斯决策可以导致二次或线性分类器。 2.3 贝叶斯分类器，二次和线性分类器 虽然贝叶斯决策在错误率或风险上是最优的，但必须知道类条件密度。在大多数应用场合，类条件密度函数是从有限的样本中估计的。后面我们将讲一些密度函数估计的方法。但密度函数的估计本身是一件复杂工作并且需要大量样本。 即使我们得到了密度函数，有时用似然比检验的方法也很难计算分界面。 因此我们有时考虑更简便易行的分类器设计 方法。用二次、线性、分段线性分类器。即先规定分类器的数学形式，然后在适当的准则下，来确定这些参数。 这一节分析在什么条件下贝叶斯分类器变成二次和线性分类器。以后再讨论当这些条件不满足时，如何设计“性能好”的参数分类器。 当各类的类条件密度是高斯分布时， mi和Ki为均值向量和协方差矩阵。 这时似然比为 定义 ，则: （※） 上式是二次分类器。计算x到各类均值mi的 马氏距离 ，然后和阈值 相比较，决定x属于第一或第二类。 在一维时，马氏距离 ，即比较用方差标准化的一般距离。 展开上式，有 （※※） 式中 决策边界h(x)=T