模式识别(第六章NO1)(最近邻法)讲述.pptVIP

第六章 近邻法;二. 最近邻法的决策规则 　　设有c类模式样本， 　ω1, ω2,……, ωc 　　每类有Ni个样本(i=1,2,……,c)，则最近邻法的(ωi类)判别函数为: 　　式中 表示ωi类中的第k个样本。 ; 对应的决策规则为： 　　　　如果 　　　则决策 　　即只要将待分样本X与全部N( )个已知类别的样本进行欧氏距离之间的比较，然后将X归到离它最近的类别中。 由于这种方法只根据离待分样本X最近的一个样本的类别而决定其类别，所以通常称为1-最近邻法(亦称1-NN方法);三. 最近邻法的错误率问题 　　　最近邻法是一种次优方法，它的错误率比最小错误概率的Bayes决策规则下的错误率要大，但是，当样本数目无限时，它的错误率不会超过Bayes错误率的一倍。 定性分析： 若将X的最近邻Xj的类别看成是一个随机变量 ，于是 　 的概率就是后验概率 . 　　　当样本数目很多时，可以认为X的最近邻Xj 离它很近，从而近似的认为 ;　　这时最近邻法可看成是如下的随机化决策： 　　　　按照概率 来决定X的类别。 故最近邻法可看成是用后验概率来对X进行分类