模式识别论文--判别函数分离器的设计与实现.docxVIP

判别函数分类器的设计与实现1 判别函数分类器1.1 判别函数概念直接用来对模式进行分类的准则函数。若分属于ω1，ω2的两类模式可用一方程d(X) =0来划分，那么称d(X) 为判别函数，或称判决函数、决策函数。如，一个二维的两类判别问题，模式分布如图示，这些分属于ω1，ω2两类的模式可用一直线方程d(X)=0来划分。式中：为坐标变量。图1-1两类二维模式的分布将某一未知模式X代入：若，则类；若，则类；若，则或拒绝维数=3时：判别边界为一平面。维数3时：判别边界为一超平面。1.2判别函数正负值的确定判别界面的正负侧，是在训练判别函数的权值时确定的。图1-2 判别函数正负的确定 d(X) 表示的是一种分类的标准，它可以是1、2、3维的，也可以是更高维的。1.3确定判别函数的两个因素1）判决函数d(X)的几何性质。它可以是线性的或非线性的函数，维数在特征提取时已经确定。已知三维线性分类—— 判决函数的性质就确定了判决函数的形式：非线性判决函数，其示意图如下图所示图1-3 非线性判决函数图示2）判决函数d(X)的系数，由所给模式样本确定的。2感知器算法设计与实现对一种分类学习机模型的称呼，属于有关机器学习的仿生学领域中的问题，由于无法实现非线性分类而下马。但“赏罚概念（reward-punishment concept）”得到广泛应用。 2.1 感器算法原理及特点2.1.1 感知器算法原理两类线性可分的模式类，设其中，，应具有性质（2-1）对样本进行规范化处理，即ω2类样本全部乘以(－1)，则有：感知器算法通过对已知类别的训练样本集的学习，寻找一个满足上式的权向量。感知器算法步骤：（1）选择N个分属于ω1和ω2类的模式样本构成训练样本集 { X1, …, XN }构成增广向量形式，并进行规范化处理。任取权向量初始值W(1)，开始迭代。迭代次数k=1 。（2）用全部训练样本进行一轮迭代，计算WT(k)Xi 的值，并修正权向量。分两种情况，更新权向量的值：分类器对第i个模式做了错误分类，权向量校正为：c：正的校正增量。2.若分类正确，权向量不变：,统一写为： (2-3)（3）分析分类结果：只要有一个错误分类，回到（2），直至对所有样本正确分类。感知器算法是一种赏罚过程：分类正确时，对权向量“赏”——这里用“不罚”，即权向量不变；分类错误时，对权向量“罚”——对其修改，向正确的方向转换。2.1.2感知算法特点--收敛性收敛性：经过算法的有限次迭代运算后，求出了一个使所有样本都能正确分类的W，则称算法是收敛的。感知器算法是在模式类别线性可分条件下才是收敛的。2.1.3感知器算法用于多类情况采用多类情况3的方法时，应有：若，则对于M类模式应存在M个判决函数：,,,,,算法主要内容：设有M中模式类别：设其权向量初值为：训练样本为增广向量形式，但不需要规范化处理。第K次迭代时，一个属于ωi类的模式样本X被送入分类器，计算所有判别函数(2-4)分二种情况修改权向量：若，则权向量不变；若第L个权向量使，则相应的权向量作调整，即： (2-5)c为正的校正增量只要模式类在情况3判别函数时是可分的，则经过有限次迭代后算法收敛。2.2 实例说明为了说明感知器算法的具体实现，下面举出实例加以说明：已知两类训练样本用感知器算法求出将模式分为两类的权向量解和判别函数。解：所有样本写成增广向量形式；进行规范化处理，属于ω2的样本乘以(－1)。任取W(1)=0，取c=1，迭代过程为：第一轮：有两个WT(k)Xi ≤0的情况（错判），进行第二轮迭代。第二轮：第三轮：第四轮：该轮迭代的分类结果全部正确，故解向量相应的判别函数为：图2-1 判决函数示意图判别界面d(X)=0如图示。当c、W(1)取其他值时，结果可能不一样，所以感知器算法的解不是单值的。2.3 matlab的感知器算法设计与实现本设计是按照线性函数判决函数的感知算法思想结合数字识别，来进行设计，通过训练数字样本（每个数字样本都大于120），结合个人写字习惯，记录测试结果，最后通过matlab编码来实现感知器的数字识别。2.3.1 Matlab代码设计function y=jiangcheng(sample) clc; load templet pattern; w=zeros(26,10); d=[]; maxpos=0; maxval=0; f=1; n=[];m=[]; %依次输入样本 for j=1:100 for i=1:10 f=1; pattern(i).feature(26,j)=1; for k=1:10