第三章 线性与非线性判别函数.pdf

模式识别 第三章 线性与非线性判别函数 中国矿业大学信电学院 蔡利梅 第三章 线性与非线性判别函数 引言 最小平方误差准则 线性判别函数和广 多类问题 义线性判别函数 支持向量机 线性判别函数的设 分段线性判别函数 计思路 近邻法 Fisher线性判别 感知器准则函数 引言 基于贝叶斯理论的分类方法： 利用样本集估计先验概率和类条件概率，再用 Bayes定理求出后验概率，并根据后验概率的 大小或计算条件风险进行分类决策。 具有贝叶斯理论的分类方法的局限性 实际问题中，得到的只是样本集，样本的分布 形式很难确定，进行估计需要大量样本。 基于以上原因，实际问题中，不去估计类 条件概率，直接利用样本集设计分类器。 第三章 线性与非线性判别函数 引言（续） 利用样本集直接设计分类器的思路 首先给定某个判别函数，利用样本集去 确定判别函数中的未知参数。 判别函数分类 线性判别函数 非线性判别函数 第三章 线性与非线性判别函数 线性判别函数 实例分析 一般表达式 决策规则 分界面 第三章 线性与非线性判别函数 实例分析：一维数据 ω w ω 2 0 1 两类的分界点为w ， 0 判别函数表示为：g(x)=x-w0 线性判别函数 实例分析：二维数据 x 2 两类的判别函数表示为： g x w x w x +w( )+ 1 1 2 2 0 ω 1 T w+x w 0 ω2 w 、x均为二维列向量 x 1 线性判别函数 一般表达式、决策规则和分界面 ( ) T 一般表达式：g x w+x w0 w 、x均为d维列向量，w称为权向量（系数） g x ( ) x ∈ω 决策规则：如果 0，则决策 1；