模式识别 课件 第6章 组合分类器.pptxVIP

模式识别

第6章组合分类器

主要内容

组合分类器

6.1组合分类器的设计

6.2Bagging算法

6.3随机森林

6.4Boosting算法

6.5组合分类的实例

6.1组合分类器的设计

组合分类器

基本概念

组合分类器：构建一组单独的分类器（个体），整合

各个体分类器决策结果，以获得更好的性能。

个体分类器1

个体分类器2

输入

组合

输出

分类

结果

样本

••

个体分类器M

组合分类器示意图

6.1组合分类器的设计

组合分类器

基本概念

个体分类器为同一种称为同质，反之称为异质

要求：

多样性，不同个体分类器间的分类结果具有差

异性

准确性，个体分类器具有较好的分类性能

设计要点：

个体分类器的差异设计

分类器性能度量

组合策略

6.1组合分类器的设计

组合分类器

个体分类器的差异设计

数据样本扰动

获取不同的训练样本集，设计多个个体分类器

留出法

将数据集划分为两个互斥子集，分别作为训

练集和测试集，多次随机划分，用不同的训练集

训练个体分类器。

6.1组合分类器的设计

组合分类器

交叉验证法

将数据集X划分为k个大小相似的互斥子集，将

其中k-1个子集的并集作为训练集，剩下的那个

子集作为测试集，获得k组训练/测试集。

也称k折交叉验证，进行p次，p次k折交叉验证

自举法

可重复采样

在数据集较小、难以有效划分时很有用，但是新

的数据集改变了初始数据集的分布