L01-模式识别-绪论.pptVIP

模式识别 第一章 模式识别绪论 “To understand is to perceive patterns” -Isaiah Berlin 什么是模式？ 模式是混沌的反面 模式是对事物模糊的定义 什么是识别 将模式划分为某一类别。 分类（已知类别） 聚类（创建新类别） 什么是模式识别 对表征事物的各种形式的（数字的、文字的和逻辑关系的）信息进行处理和分析，对事物和现象进行描述、辨认、分类和解释的过程。 信息科学和人工智能的重要组成部分。 人类思考的能力基于识别模式。计算机能够更好的识别模式，它就更想人类。 我们是如何进行识别的 观察环境和分析问题 学习从背景中分辨感兴趣的模式 对于模式的类别做出合理的判决。 模式识别的应用（1） 字符识别 输入 输出：Earham encourage 模式识别的应用（2） 语音识别 输入：声波信号 输出：语音内容 模式识别应用（3） 指纹识别 输入：指纹图像 输出：身份 模式识别应用（４） 签名验证 输入：签名点序列 输出：签名人身份 模式识别应用（５） 人脸检测 输入：图像 输出：人脸在图像中的位置 模式识别应用（６） 文档分类 输入：ＨＴＭＬ文件 输出：文档类别 模式识别应用（７） 财务预测 输入：股票价格时间序列 输出：牛？熊？ 其他应用 目前已知最好的模式识别系统 模式识别的基本概念 模型（Model） 可用数字形式表达的不同特征的描述 样本（Sample） 模式的实例，分类的基本对象。 训练集（Training Set） 用于训练分类器的样本的集合。 测试集（Test Set） 用于测试分类器的样本集合，通常应与训练及无交集 基本概念 特征（Feature） 可用于样本分类的属性。 特征向量（Feature Vector） 由一组特征组成的向量，通常为列向量。 特征空间（Feature Space） 由所有可能的特征组成的空间。 散布图（Scatterplot） 将每个特征表示为 特征空间中的一个点 基本概念 决策（判决）面（曲线） 特征空间中用于区分各类别的界限 例子——鲑鱼？鲈鱼？ 预处理 调整光照 去除噪声 增强对比度 …… 分割 将鱼从背景中分离出来 特征提取 从鱼的图像中提取用于分类的特征 分类 根据分类准则做出判断——鲑鱼？ 鲈鱼？ 选择用于分类的特征 选择用于分类的特征 决策边界与代价 使用两个特征：光泽度x1和宽度x2 样本的特征向量：[x1,x2] 泛化能力 泛化能力/推广能力（Generalization） 设计分类器的最终目标是能够对新样本做出正确的分类，而不是对训练样本完美分类。 分类模型对训练样本的过分匹配是应该努力避免的现象：过配（Overfitting） 避免过配的方法 避免过于复杂的决策面 左右为难 复杂的决策面？ 简单的决策面？ 模式识别系统 模式识别系统的设计方法 模式识别中的重要问题 噪声 分割 数据采集 领域知识 特征抽取 模式表示 缺失特征 模型选择 过配 上下文 分类器集成 代价与风险 计算复杂度 ……. 噪声（Noise） 不同类型的噪声（如：阴影、图像的抖动的等） 噪声导致提取特征的可靠性降低。 噪声处理方面可有助于减少噪声的影响，提高性能。 分割（Segmentation） 单个的模式必须被分割出来 如何在没有分类的情况下进行分割？ 如何在没有分割的情况下进行分类？ 数据采集（Data Collection） 我们怎么知道已经采集了足够的样本用于识别系统的训练和测试？ 数据采集的成本可能相当的高。 领域知识（Domain Knowledge） 当没有足够的训练数据时，结合领域知识有助于提高性能 模式生成的模型 模式生成的方法 特征提取（Feature Extraction） 领域相关的知识影响分类器的性能 那些特征最重要？ 是否存在一种方法可以自动地学习那些特征最重要？ 我们应该使用多少特征？ 选择对噪声鲁棒的特征 选择能够获得简单判决边界的特征 模式表示 相似的模式应该有相似的表示 不同类型的模式应该有不同的表示 模式表示对与变换应该保持不变，如： 平移、旋转、缩放、反转、非刚性形变 类内方差要小、类间方差要大 缺失特征（Missing Features） 某些特征可能不可见（如：由于遮挡） 当有缺失特征时，如何获得最好的分类结果？ 当有缺失特征时，如何训练分类器？ 模型选择（Model Selection） 我们怎么知道什么时候应该放弃一类模型而尝试其他模型 模型的选择过程仅仅是反复实验吗？ 如何使该过程自动化？ 过配（Overfitting） 越复杂的模型，越容易导致过配。（即，对训练数据性能好，对新数据性能差） 如何调整模型的复杂度？ 理论上是否存在找到最佳复杂度