神经网络分类器.pdfVIP

第五章神经网络分类器

5.1感知器算法

5.2神经网络分类器

神经网络分类器

5.1感知器算法

一、引言

模式识别与人工智能是研究如何利用计算机实现人脑的一些

功能。

神经网络分类器

人工神经网络研究的发展：

u1943年，提出形式神经元的数学模型，人工神经网络研究的

开端。

u1949年，提出神经元的学习准则，为神经网络的学习算法奠

定了基础。

u50年代，研究类似于神经网络的分布系统。

u50年代末提出感知模型，把神经网络的实现付诸工程实践。

u1982年，提出神经网络的数学模型，引入了能力的概念，研

究了网络的动力学特性；设计出用电子线路实现网络的方案，

大大促进了神经网络的研究。

u1986年，提出多层感知器的反向传播算法。

u现在神经网络的应用已渗透到智能控制、信号处理、优化计

算、生物医学工程等领域。

神经网络分类器

二、人工神经元

1、生物神经元

典型的神经元，即神经细胞结构：胞体、树突、轴突、突触

胞体：神经细胞的本体，完成普通细胞的生存功能。

树突：有大量的分枝，接受来自其他神经元的信号。

轴突：用以输出信号。

突触：神经元相联系的部位，对树突的突触为兴奋性的，使

下一个神经元兴奋；对胞体的突触为抑制性的，阻止下一个

神经元兴奋。

神经网络分类器

神经元的基本工作机制：

u神经元的两种工作状态：兴奋和抑制。

u动态极化原则：在每一个神经元中，信息以预知的确定方

向流动，即从神经元的接收信息部分传到轴突的电脉冲起

始部分，再传到轴突终端的突触，以与其它神经元通信。

u连接的专一性原则：神经元之间无细胞质的连续，神经元

不构成随机网络，每一个神经元与另一些神经元构成精确

的联接。

信号的传递过程：

u接受兴奋电位；

u信号的汇集和传导；

u信号的输出。

神经网络分类器

2、人工神经元

人工神经元模型：

x：输入，神经元的输入值

i

ω：权值，突触的连接强度

i

f：输出函数，非线性函数

y：输出

神经元动作：

常用输出函数：

阈值函数：

神经网络分类器

阶跃函数：

双曲正切函数：

无限次可微权值很小时接

近线性函数

非线性，单调性权值很大时

接近阈值函

数

神经网络分类器

3、感知器模型

f为阈值函数：

神经网络分类器

设阈值：θ=-ω0

W=(ω,ω,…,ω,ω)T

12n0

X=(x,x,…,x,1)T

12n

TT

则：y=sgn(WX)即：y=f(WX)

这种神经元没有内部状态的转变，而且函数为阈值型。因此，

它实质上是一种线性阈值计算单元。

感知器是一个具有单层计算单元的人工神经网络。感知器训

练算法就是由这种神经网络演变来的。

感知器算法能够通过对训练模式样本集的