实验一报告实验一基于感知器的线性分类器设计.docxVIP

北华大学开放实验报告

实验名称：实验一 基于感知器的线性分类器设计所属课程： 模式识别 班 级： 信息10—1 学 号： 36 姓 名： 张慧

实验一、基于感知器算法的线性分类器设计

一、实验目的：

熟悉感知器算法。

掌握感知准则函数分类器设计办法。

掌握感知器算法，运用它对输入的数据进行分类。

二、实验原理：

感知机算法

线性分类器的第一种迭代算法是1956年由FrankRosenblatt提出的，即含有自学习能力的感知器（Perceptron）神经网络模型，用来模拟动物或者人脑的感知和学习能力。这个算法被提出后，受到了很大的关注。感知器在神经网络发展的历史上占据着特殊的位置：它是第一种从算法上完整描述的神经网络，是一种含有分层神经网络构造、神经元之间有自适应权相连接的神经网络的一种基本网络。

感知器的学习过程是不停变化权向量的输入，更新构造中的可变参数，最后实现在有限次迭代之后的收敛。感知器的基本模型构造如图1所示：

图1感知器基本模型

其中，X输入，Xi表达的是第i个输入；Y表达输出；W表达权向量；w0是阈值，f是一种阶跃函数。

感知器实现样本的线性分类重要过程是：特性向量的元素x1，x2，……，xk是网络的输入元素，每一种元素与对应的权wi相乘。，乘积相加后再与阈值w0相加，成果通过f函数执行激活功效，f为系统的激活函数。由于f是一种阶跃函数，故当自变量不大于0时，f=-1；当自变量不不大于0时，f=1。这样，根据输出信号Y，把对应的特性向量分到为两类。

然而，权向量w并不是一种已知的参数，故感知器算法很重要的一种环节即是寻找一种合理的决策超平面。故设这个超平面为w，满足：

wT*x?0,?x?ω

1

2wT*x?0,?x?ω

2

（1）

引入一种代价函数，定义为：

J(w)??δ*wT*x

xx?Y

x

（2）

其中，Y是权向量w定义的超平面错误分类的训练向量的子集。变量δx定义为：当x?ω1时，δx=-1；当x?ω2时，δx=+1。显然，J(w)≥0。当代价函数J(w)达成最小值0时，全部的训练向量分类都全部对的。为了计算代价函数的最小迭代值，能够采用梯度下降法设计迭代算法，即：

w(n?1)?w(n)?ρn

?J(w)?

?J(w)

?w

（3）

其中，w(n)是第n次迭代的权向量，ρn有多个取值办法，在本设计中采用固定非负值。由J(w)的定义，能够进一步简化（3）得到：

w(n?1)?w(n)?ρn?δx*x

x?Y

（4）

通过（4）来不停更新w，这种算法就称为感知器算法（perceptronalgorithm）。能够证明，这种算法在通过有限次迭代之后是收敛的，也就是说，根据（4）规则修正权向量w，能够让全部的特性向量都对的分类。

采用感知器算法实现data1.m的数据分类流程如图2所示：

开

开始

初始化

权向量w赋任意值

迭代

N

代价函数为0

Y

结束

结束

图2单层感知器算法程序流程

三、实验内容

获得增广样本向量和初始增广权向量

.对样本进行规范化解决

获得解区，并用权向量迭代修正错分样本集，得到最后解区

四、实验程序

functionPer1()

clearall;closeall;

DATA=xlsread(zb0708.xls);fori=1:45

x1(i,1)=DATA(i,1)

x1(i,2)=DATA(i,2)

end

fori=1:55

x2(i,1)=DATA(i,3)

x2(i,2)=DATA(i,4)

end

fori=1:45r1(i)=x1(i,1);end;fori=1:45r2(i)=x1(i,2);end;fori=1:55r3(i)=x2(i,1);end;fori=1:55r4(i)=x2(i,2);end;

figure(1);plot(r1,r2,*,r3,r4,o);

holdon;%保持目前的轴和图像不被刷新，在该图上接着绘制下一图

x1(:,3)=1;%考虑到不通过原点的超平面，对x进行扩维x2(:,3)=1;%使x=[x1]，x为2维的，故加1扩为3维

%进行初始化

w=rand(3,1);%随机给选择向量，生成一种3维列向量 419.4813 -719.9205

-247.3682

p=1;%p0非负正实数

ox1=-1;%代价函数中的变量

ox2=1;%当x属于w1时为-