模式识别 阎高伟.docVIP

模式识别 一、课程基本情况 课程编号 s081112 开课学期 □第一学期 ■第二学期 学分 3 课程名称 （中文）模式识别技术 （英文）Pattern Recognition 课程类型 ■专业基础课 □专业选修课 课程学时分配 课程学时 学时分配 60 课堂讲课 40 课堂讨论 8 自学交流 12 课程负责人 阎高伟 课程团队 谢刚、韩晓明、韩晓霞、王芳、陈泽华 教学方式 ■课堂讲授 ■专题讨论 考核方式 ■考试 □考查 适用院系、学科 先修课程 概率论与数理统计、矩阵论 教材与 参考书目 《模式识别》边肇祺、张学工等，清华大学出版社 模式识别（第四版）（希）西奥多里蒂斯等著，李晶皎等译电子工业出版社现代模式识别(第2版)作者：孙即祥高等教育出版社 2008年智能模式识别方法 肖健华华南理工大学出版社2006年模式识别与智能计算：Matlab 技术实现（含光盘）杨淑莹电子工业出版社模式识别基本概念提高学生解决工程实际问题的能力。0 绪论（2学时） 课程简介（课程主要内容、课程要求及考核方式等） 1 基本概念 1.1 模式与模式识别的概念 1.2 模式识别的应用举例 1.3 模式识别系统 1.4 与其它研究领域的关系 2 贝叶斯决策理论 2.1 引言 2.2 贝叶斯决策方法 2.3 分类器设计 2.4 正态分布时的贝叶斯决策 2.5 分类器的错误率 3 概率密度函数的估计 3.1 引言 3.2 最大似然估计 3.3 贝叶斯估计与贝叶斯学习 3.4 EM算法 3.5 概率密度函数的非参数估计 4 线性判别函数 4.1 线性判别函数的基本概念 4.2 感知器及其训练（感知器的概念、成知器训练算法） 4.3 感知器准则函数及其梯度法 4.4 最小平方和准则函数与H-K算法 4.5 Fisher线性判别式 4.6 广义线性判决函数 5 聚类分析方法 5.1相似性度量方法 5.2聚类准则函数 5.3两种简单的聚类算法 5.4动态聚类算法 第6章 特征提取与特征选择 6.1 Fisher判别与线性判别方法 6.2 类别可分离性判据 6.3 特征选择 6.4 基于K-L展开式的特征提取 7 决策树 7.1 决策树的基本概念 7.2 基本的树生长算法 7.3 其它决策树算法 8 分类器融合 8.1 基于训练样本的分类器构造 8.2 基于特征的分类器构造 8.3 分类器的融合策略 9 模式识别与统计学习理论 9.1 经验风险最小化与结构风险最小化 9.2 没有免费的午餐 9.3 重采样技术 9.4 主动学习 9.5 分类器的评价 四、课程知识单元与知识点 PR1:基本概念 模式的概念 模式识别系统 PR2:贝叶斯决策 贝叶斯定理 先验知识 最小错误率贝叶斯决策 最小风险贝叶斯决策 Neyman-Pearson准则 最小最大决策 分类器的设计 马氏距离 PR3:概率密度函数估计 最大似然估计 概率密度函数的参数估计 高斯分布的参数估计 贝叶斯估计与贝叶斯学习 隐含变量 混合模型与高斯混合模型 概率密度函数的非参数估计 Parzen窗方法 PR4：线性分类器 线性判别函数与广义线性判别函数 感知准则函数 梯度下降法 支持向量机 最大间隔准则 核函数 Mercer条件 PR5: 聚类分析 聚类 距离度量与分类器的设计 几种常用距离度量 C均值算法 模糊C均值算法 分级聚类方法 聚类分析中的一些问题 PR6: 特征提取与特征选择 特征提取 Fisher准则 线性判别方法 类别可分离性判据 基于概率分布的可分离性判据 基于熵函数的可分离性判据 特征选择 PR7: 决策树 决策树 非实数特征 决策树的生长算法 分支数的选择 节点选择 分支停止准则 剪枝方法 ID3 C4.5 PR8: 分类器融合 Bagging Boosting 决策森林 随机子空间方法 分类器融合策略 PR9: 模式识别与统计学习理论 经验风险最小化 复杂性与推广能力 函数集的学习性能与VC维 结构风险最小化 没有免费的午餐 丑小鸭定理 主动学习