模式识别实验感知器准则算法实验.docVIP

实验二 感知器准则算法实验 实验目的： 加深对感知准则算法的基本思想的认识和理解。 编程实现批处理感知器算法的程序。 实验原理： 1.假设已知一组容量为N的样本集，，…，，其中为维增广样本向量，分别来自和类。如果有一个线性机器能把每个样本正确分类，即存在一个权向量，使得对于任何，都有0，而对一任何，都有0，则称这组样本集线性可分；否则称线性不可分。若线性可分，则必存在一个权向量，能将每个样本正确分类。 基本方法： 由上面原理可知，样本集，，…，是线性可分，则必存在某个权向量，使得 如果我们在来自类的样本前面加上一个负号，即令=—，其中，则也有0。因此，我们令 那么，我们就可以不管样本原来的类型标志，只要找到一个对全部样本都满足0，的权向量就行了。此过程称为样本的规范化，成为规范化增广样本向量，后面我们用来表示它。 我们的目的是找到一个解向量，使得 为此我们首先考虑处理线性可分问题的算法。先构造这样一个准则函数 式中是被权向量错分类的样本集合。错分类时有，或 因此总是大于等于0,。下一步便是求解使达到极小值时的解向量。这里我们采用梯度下降法。首先对求梯度，这是一个纯量函数对向量的求导问题，不难看出 梯度下降法的迭代公式为，将上式代入得 这样，经过有限次修改，一定能找到一个解向量。其中任意给定权向量。 实验内容： 实验所需样本数据如表2-1给出（每个样本空间为两维，x1表示一维的