ch4_2感知器准则函数.pptVIP

4.3 感知器准则函数 本节所讨论的问题，是线性可分的。 对分类器的设计要求用感知器函数来表达。 问题：如何利用训练集，“学习”得到使感知器准则函数达到极小值的判别函数中的权向量。 基本假设 假设有一个2-类分类问题，训练集 是线性可分的；目的是求出判别函数 中的权向量。 模式向量的规范化处理： 若 则令 ； 若 则令 称为规范化样本。 规范化样本的相应分类结果 感知器准则函数的定义 感知器准则函数定义为(Rosenblatt,1956)： 其中 是被错分类的样本集。 当 被错分类时， ，即 ，因此 总是大于零的，而且当且仅当不存在错误分类样本时， 为空集时， 为零。这时准则函数达到最小值。 求极值 求使得 达到极小值时，权向量 的取值。在此采用梯度下降法。 首先，准则函数对 求偏导；(这是一个纯量函数对向量求偏导的问题) 注意：梯度 是一个向量，其方向是 增长最快的方向；因而负梯度方向就是 减小最快的方向。它启发我们在求准则函数的极小值时，沿着负梯度方向能够最快的到达极小值点。 梯度下降法的基本步骤 给定一个初始权值： ，从 出发，沿着负梯度方向 走一步，