Fisher-线性判别及感知器判别.docVIP

模式识别上机实验4：Fisher线性判别及感知器判别

姓名寸正雄学号20081910073

根据给出的触角长度和翼长识别出一只标本是Af还是Apf是重要的。两种蠓虫，Af和Apf已由生物学家W.L.Grogna和W.W.Wirth〔1981〕根据它们的触角长度和翼长加以区分，见表中数据。

试分别用Fisher判别和感知准那么函数求判别函数并判别出最后5个样本的类别，并画出20个样本的散点图及分类直线。

2，4.最小均方误差准那么函数。

序号

.1

2

3

4

5

6

7

8

9

10

翼长

1.20

1.30

1.18

1.14

1.26

1.28

1.36

1.48

1.40

1.38

触角长

1.86

1.96

1.78

1.78

2.00

2.00

1.74

1.82

1.70

1.90

类别

Apf

Apf

Apf

Apf

Apf

Apf

Af

Af

Af

Af

序号

11

12

13

14

15

16

17

18

19

20

翼长

1.24

1.38

1.54

1.38

1.56

1.24

1.28

1.40

1.22

1.36

触角长

1.72

1.64

1.82

1.82

2.08

1.80

1.78

2.04

1.88

1.78

类别

Af

Af

Af

Af

Af

?

?

?

?

?

方法

判别函数

16

17

18

19

20

Fisher

Apf

Af

Apf

Apf

Af

感知器

(587*x2)/125-(5113*x1)/750-1/5

Af

Af

Af

Apf

Af

Fisher感知

模式识别上机实验4：Fisher线性判别及感知器判别

姓名寸正雄学号20081910073

问题分析

线性判别函数

在实际问题中有好多样本无法的到准确度角高的样本密度估计，只能采用样本本身直接进行分类器设计。具体说就是，首先给定某个判别函数类，然后再利用样本确定出判别函数中的未知参数。线性判别函数法是一种比拟简单的判别函数，首先假定判别函数是的线性函数，即

〔1.1〕

对于类问题，可以定义个判别函数，

，(1.2)

然后再采用样本的到判别函数中的位置参数和。

Fisher线性判别

Fisher线性判别法，就是把样本投影到某个方向上，在该方向上可以简单的得到分类结果。如一个二维的两类样本可以投影到一条直线上，在这直线上课一找到一个点就可以将两类分开。那么要利用Fisher方法，应该怎样做呢？第一就是要找到可以将两类样本分开的投影线或向量。Fisher方法采用两个样本的中心的所在的方向：

(2.1)

让后就是确定分开两类的那个点，Fisher有如下三种方法：〔其中，为样本在上的摄影〕

(2.2)

分好也后就是，利用原样本把要决策的样本投影到直线上与比拟，Fisher中就采用下方法：

(2.3)

其中为样本的散度矩阵

(2.4)

样本的投影：

(2.5)

确定决策规那么：

(2.6)

其决策面为：

(2.7)

感知准那么函数

与Fisher相反，Fisher是降低维数，感知算法那么是增加维数，要利用感知算法首先要把样本标准化，最常用的标准化就是吧类别以的方式参加到原样本中。当样本为两类是，其标准化如下：

(2.8)

标准化后就是利用标准化后的样本来找到一个决策函数，用于未知分类的样本决策。感知算法采用梯度算法：

(2.9)

如此找到一个使得所有的都满足，找到后可得到决策函数

(2.10)

课得到决策规那么如下：

(2.11)

问题求解

题意分析

该题中样本数较少，而且是线性可分的，样本中只有两个属性值。

Fisher线性判别

用Fisher算法计算，先把样本分成第一类第二类待分类，利用(2.1)式计算的均值和，在利用(2.3)、(2.4)式子计算、和，并计算就可以得到决策规那么和决策函数。带入数据可得到下结果：

P=

12112

F=

图如下：

图3.1

感知准那么函数

先将样本标准化，在利用(2.9)式计算得到，在利用(2.10)、(2.11)式可得到决策规那么和决策面，带入数据计算结果入下：

P=-1-1-11-1

F=(587*x2)/125-(5113*x1)/750-1/5

程序代码

样本yangben.m

X1=[1.201.86；1.301.96；1.181.78；1.141.78；1.262.00；1.282.00];

X2=[1.361.7