第七章 模式识别导论(五).pdfVIP

模式识别导论 对传统统计模式识别方法的小结 监督分类法。从确定性准则出发：判别函数分类， 从概率法则出发：基于最小错误概率的Bayes判别法 重点研究了线性判别函数求解的感知器算法：任意给定 一组初始权向量（即判别函数的系数），对已知样本进行 训练。在两类问题的时候，用下列规则对权系数进行修正    t   w k 若w k xk 0   w k 1  t     w k cx w k x 0  k k 武汉大学遥感信息工程学院 马洪超 模式识别导论 –多类问题的感知器算法是两类问题的推广。M 个类别可以建立m个判别函数。 –感知器算法只能对线性可分的情况是有效的。 对线性不可分的情况无效。 –感知器算法的收敛性可以从理论上证明得到 武汉大学遥感信息工程学院 马洪超 模式识别导论 基于最小错误概率的Bayes判别法：这种方法可 以归结为最大后验概率准则，即如果     P  | x max P  | x i j j   则x , 分类错误率P(e) 1P  | x i i 武汉大学遥感信息工程学院 马洪超 模式识别导论 –根据Bayes公式，用已知样本的已知类概率密度函数和 类别出现的先验概率，可以计算出给定样本的后验概率 –类概率密度函数可以用参数估计（对于分布类型已知的 情况）和非参数估计（对于分布类型未知的情况）来进 行估计，先验概率用频率来代替 –对Bayes决策附加一些条件，就可以得到最小风险、NP 决策和最小最大决策 –对于多元正态分布的情况，对最小错误率的Bayes决策 进行了详细的研究 武汉大学遥感信息工程学院 马洪超 模式识别导论 非监督分类法。根据样本的相似性来进行分类，重点研究了 K均值算法和ISODATA算法。一般来说，聚类算法的理论基础 是薄弱的，有些算法的步骤和参数确定无法从理论上给与严格 的证明。 在常见的相似性测度中，欧氏距离具有最重要的应用价值， K均值算法和ISODATA算法中的相似性均用欧氏距离来度量。 两者都是迭代算法 武汉大学遥感信息工程学院 马洪超 模式识别导论 • K均值算法特点是初始聚类中心给定，但随着迭代的进行， 中心可变。迭代结束的条件是前后两次得到的聚类中心不 变或近似不变 • ISODATA算法可以看做是K均值算法的扩展，除有K均值算 法的特点，还具有可以进行类别合并和分裂操作的特点 武汉大学遥感信息工程学院 马洪超 模式识别导论 ISODATA算法中的初始参数确定非常重要。算法即使结束了， 也不见得能够获得比较满意的结果，有时会出现振荡、结果类 别数和预先设定的不一致、或者其他难以预测的不良后果。但 这种方法符合聚类的客观实际情况，只要参数选择合适，效果 是不