模式识别-总结.pptVIP

模式识别-总结

PatternRecognition;课程内容;概念;1.1.3模式识别系统;1.1.4模式识别方法;第二章聚类分析;小结;三、类间距离递推公式;四、聚类准那么函数;四、聚类准那么函数;〔三〕基于类内类间距离的准那么函数;〔三〕基于类内类间距离的准那么函数;2.3聚类算法;〔三〕动态聚类算法;C-均值算法性能;第三章类域界面方程法总结;判别规那么：;3·3判别函数值的鉴别意义、权空间及解空间;3·4Fisher线性判别;〔2〕Fisher变换;3.5一次准那么函数及梯度下降法;3·6二次准那么函数及其算法;式中是矩阵。;最小方差准那么及W-H算法

针对方程组,构造方差准那么函数

对于,此时的,

而对于,此时的。如果方程组有唯一解,说

明训练模式集是线性可分的,如果方程组无解,极小点值是最小二乘解。一般情况下使极小等价于误分模式数目最少。;⑴伪逆法

求对的梯度并令其为零，有

可得(3-6-12)

当(X’X)-1存在时，

X+=(X’X)-1X’称为X的伪逆(也称广义逆或M-P逆)， 称为的伪逆解。

X’X是(n+1)×(n+1)矩阵，一般是非奇异的。

当(X’X)-1不存在时，可用广义逆法解

这里(X’X)+为X’X的广义逆矩阵。;⑵梯度法;Step1.任取

Step2.

此算法通常称为W－H(Widrow－Hoff)算法;3·12势函数分类法; 第一类位势函数

设是定义域中的完备正交函数集，位势函数取为

第二类位势函数

取关于和的距离的对称函数作位势函数，例如;第四章 统计判决总结;4·1最小误判概率准那么判决;多类问题，最小误判概率准那么有如下几种等价的判决规那么;4·2 最小损失准那么判决;含拒判决策的最小损失判决规那么为;对于两类问题，存在拒判决策的条件是;适用于P(?i)未知或是变动的情况。

当类概密，损失函数?ij、类域?i取定后，平均损失R是P(?i)的线性函数

方法：按最小损失准那么，对P(?i)?(0,1)，计算R～P(?i)曲线，找出使R取最大值的P*(?i)，然后最小损失准那么对具体的模式分???识别。最小最大损失判决规那么为;;4·4N-P(Neyman—Pearson)判决;第五章统计估计概述;5·1统计推断概述;设模式,?i类总体概密为;5.2.2最大似然估计

(MaximumLikelihoodEstimate);贝叶斯估计;5·3贝叶斯学习;第七章特征提取与选择;类别可分性判据小结;

使用各判据进行特征提取与选择的目标是使

各可分性判据Jij应满足以下要求(注意：对JH相反)

(1)与误分概率P(e)有单调关系：Jij取最大值时P(e)最小。

(2)当特征相互独立时，判据有可加性，即

(3)判据具有“距离”的某些特性：

Jij0，当i≠j时

Jij=0，当i=j时

Jij=Jji

(4)Jij对特征数目单调不减