模式识别(chapter2)解析.ppt

* * * * * * * * * * * * * * * 一次准则函数及梯度下降法也可以推广应用于多类问题。由于多类问题的第三种分类途径没有不确定区，我们只针对这种途径介绍感知器训练算法，其它算法是类似的。 * * * * * * * * * * * * * * * * * * * * * * * * 从3.4节开始介绍第一步：利用训练样本求解权矢量，首先是用Fish判别的方法。 * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 的维数 令 其中 * 2.8 二次判别函数 二次判别函数是一种常用的非线性判别函数，函数构造比较简单，适用面比线性判别函数要广。 在 n 维特征空间中，二次判别函数的一般表示式为： * 二次判别函数图例 * 一般的判别规则是： 计算训练模式 构造判别函数： 对未知模式： * 特点：（ 1）可直接确定判决函数 （ 2）适用于非线性和线性可分的情况 2.9 位势函数分类法 位势函数的概念： 位势为0的等位线——判决界面（判别函数） 对于两类问题?1，?2，认为  如果x??1，则x 带正电荷 如果x??2，则x 带负电荷 * * 位势函数图例 * * 位势函数图例 * * * 与感知器算法类似，位势函数训练算法也可以用于多类问题，其技术要点是： ⑴设初始积累位势函数 ,这里 i 表示类别, i = 1,2,…,c。 ⑵ 当 时，迭代规则是 如果 则 如果 则 * * 例：已知如图(3-12-1)所示两类训练样本： 试用势函数法进行分类器训练。 解：选用第二类势函数，令?=1，在二维情况下， 为积累位势函数 [ ] )] ( exp[ ) ) 0 ( ) 0 ( ( exp ) , ( ) ( , , 1 2 2 2 1 2 2 2 1 1 1 1 1 x x x x x x K x K x j + - = - + - - = = ? = r r r r w * * * 令 判别界面 * 判别界面 x2=x1-1 x2=1-x1 * 已知两类训练样本：试用势函数法设计分类器。 作业： * * * * * * 分类→特征空间的划分→寻求子区域的界面→判别函数→判别函数的结构与参数的确定→待识别模式特征矢量代入判别函数后取值。 * * * * * * * * 例题:已知训练样本(0,0)T??1，(1,1)T??2 ，(-1,1)T??3, 试求解向量w1、w2和w3。 k=1,xk=x1??1,因为d1(x1)=d2(x1)=0，d1(x1)=d3(x1)=0，错分，所以: w1(2)=w1(1)+ x1=(0,0,1)T w2(2)=w2(1)- x1=(0,0,-1)T w3(2)=w3(1)- x1=(0,0,-1)T k=2,xk=x2??2, 因为d2(x2)=-1d1(x2)=1，d2(x2)=d3(x2)=-1，错分， 所以 w1(3)=w1(2)- x2=(-1,-1, 0)T w2(3)=w2(2)+ x2=( 1, 1, 0)T w3(3)=w3(2)- x2=(-1,-1,-2)T * 例题:已知训练样本(0,0)T??1，(1,1)T??2 ，(-1,1)T??3, 试求解向量w1、w2和w3。 k=3,xk=x3??3, 因为d3(x3)=-2d1(x3)=0，d3(x3)=d2(x3)=0，错分， 所以 w1(4)=w1(3)- x3=( 0,-2,-1)T w2(4)=w2(3)- x3=( 2, 0,-1)T w3(4)=w3(3)+ x3=(-2, 0,-1)T k=4,xk=x1??1, 因为d1(x1)=d2(x1)=-1，d1(x1)=d3(x1)=-1，错分，