03第三章非参数判别分类方法3335.pptVIP

2. 样本的规范化 3. 解向量和解区 感知准则函数方法的思路 梯度下降算法 用梯度下降算法求感知准则函数极小值 小结 分段线性判别函数 *中国矿业大学 计算机科学与技术学院 第三章 非参数判别分类方法 3.3 感知准则函数 感知准则函数是五十年代由Rosenblatt提出的一种自学习判别函数生成方法，由于Rosenblatt企图将其用于脑模型感知器，因此被称为感知准则函数。其特点是随意确定的判别函数初始值，在对样本分类训练过程中逐步修正直至最终确定。 用感知准则函数设计线性分类器是一种十分重要的方法。 决策面方程： 令 结论：规范化后合适的a能使所有的Y满足aTY 0 。 3.3.1 几个基本概念 1. 线性可分性 如果对一个样本集N，总能找到一个增广权向量a，对该样本集所有样本实现正确分类，则这种情况称为具有线性可分性。 解向量：在线性可分的前提下，满足aTYn0，n=1,2,…,N 的权向量称为解向量。 解区：N个样本所对应的解向量a所在区域之交迭空间。在解区内的任一向量a能使所有样本得到正确划分。 随意找一个初始广义权向量 理论证明，只要训练样本集线性可分，无论a(0)的初值是什么，经过有限次叠代，都可使式aTY0得到满足。 当前的广义权向量a(k)，若出现Y’，使aTY0 ，则 其中pk0 3.3.2 感知准则函数及