第4章 非参数判别分类方法线性判别函数.pptVIP

感知准则函数 在两类别情况下，判别准则是： 为简单起见，我们不考虑g(X)＝0的情况。 为了讨论原理方便，这一节在线性可分条件下讨论问题，并且只谈两类识别问题。 感知准则函数 线性可分 线性可分是说该训练样本集中的两类样本可以用一个线性分界面正确无误的分开。 在线性可分条件下，广义权向量a合适的话应有： 感知准则函数 为了方便起见，如果我们令 则合适的a能使所有的Y’满足  需要解决的问题: 找到满足上式的aT _ 例 感知准则函数 返回 感知准则函数 返回 感知准则函数 分析 根据训练样本确定增广权向量 a 在给定一个规范化增广样本集Y1,…,YN的条件下，对于任何一个增广权向量a ，可计算 显然如果该向量是一个能将此样本集正确分类的增广权向量，则应有 _ _ 感知准则函数 分析 而对可导致错分类的增广权向量，则必有若干个yi ,使 我们令被错分类的规范化增广样本组成的集用yk表示，并定义一准则函数 感知准则函数 分析 则能将该样本集正确分类的增广权向量a 使得 即达到a极小值。 因此确定向量的问题变为求极小值的问题 这个准则函数 就是感知准则函数 _ _ 感知准则函数 求准则函数的极小值 可以采用迭代法进行 一个常用的方法是梯度下降算法 即对第k次迭代值，求其梯度向量， 并令迭代向量沿此负梯度向量方向修正，可以较