模式识别课件第4章.pptVIP

解向量与解区 感知器 * 感知器准则函数 对于任何一个增广权向量a ， 对样本y正确分类，则有：aTy0 对样本y错误分类，则有：aTy0 定义一准则函数JP(a) (感知准则函数)： 被错分类的规范化增广样本集 恒有JP(a)≥0，且仅当a为解向量，Yk为空集（不存在错分样本）时， JP(a)=0，即达到极小值。确定向量a的问题变为对JP(a)求极小值的问题。 感知器 梯度下降算法 梯度下降算法：对(迭代)向量沿某函数的负梯度方向修正，可较快到达该函数极小值。 感知器 算法(step by step) 1. 初值: 任意给定一向量初始值a1 2. 迭代: 第k+1次迭代时的权向量ak+1等于第k次的权向量ak加上被错分类的所有样本之和与rk的乘积 3. 终止: 对所有样本正确分类 任意给定一向量初始值a1 ak+1= ak+ rk×Sum(被错分类的所有样本) 所有样本正确分类 得到合理的a完成分类器设计 N Y 感知器 感知器方法例解 固定增量法与可变增量法 批量样本修正法与单样本修正法 单样本修正法：样本集视为不断重复出现的序列，逐个样本检查，修正权向量 批量样本修正法：样本成批或全部检查后，修正权向量 感知器 感知器方法小结 感知准则函数方法的思路是：先随意找一个初始向量a1，然后用训练样本集中的每个样本来计算。若发现一个y出现aTy0，则只要ak+1 =