人工神经网络课件3.pptVIP

单层感知器Rosenblatt（1958）提出感知器作为有教师学习的第一个模型。感知器是用于线性可分模式分类的最简单神经网络模型。如果用来训练神经网络的模式来自两个线性可分得类，Rosenblatt已经证明，特定的感知器算法一定是收敛的。

单层感知器的神经元模型偏置输入一般置为1

单层感知器激活函数激活函数一般选择为STEP函数

训练设计给出由标准输入和标准输出组成的样本对足够多的样本对构成训练集合反复进行训练，并跟踪实际输出与标准输出之间的误差根据误差修改权重直到误差满意为止。训练可分为串行模式和批量模式

学习算法通用规则：定义某个与权重相关的能量函数E(w)，通过修改w,使E(w)→0相关方法：最速下降法（梯度法）Newton法最小均方法LMS（详见板书推导）

单层感知器Matlab展示

多层感知器MLP具有隐层的前传网络MLP必须具有实现逻辑函数的能力MLP必须具有实现模式空间分类的能力MLP必须具有实现非线性变换（泛函逼近）能力主要困难：隐层神经元的学习算法

MLP神经元模型

MLP激活函数Sigmoid函数（S形曲线）logsig(n)=1/(1+exp(-n))tansig(n)=2/(1+exp(-2*n))-1Thisismathematicallyequivalenttotanh(n)双曲正切函数

MLP激活函数选择Sigmoid函