智能控制课件第4章 人工神经网络模型.ppt

感知器的MATLAB仿真 设计的感知器神经网络结构 感知器神经网络的MATLAB程序实现 神经网络的创建与训练 神经网络的仿真 线性神经网络 线性神经元模型 线性神经网络模型 线性神经网络特点 与感知器一样，只适于解决线性可分问题，但比感知器的抗噪能力强。 具有较广泛的实际用途，特别是在数字信号处理方面，比如，实现高性能的自适应滤波器。 一般为单层，也可为多层网络（MADALINE） 线性神经网络的学习 线性神经网络采用均方误差最小的学习规则，即LMS（Least Mean Squares）算法，来调整网络的权值和阈值，它是一种沿误差的最陡下降方向对前一步权值向量进行修正的。 对Q个训练样本构成的训练样本集为： LMS算法的基本思想是找到合适的权值和阈值，使下列均方误差最小： 线性神经网络的学习规则 每一步学习过程，线性神经元的权值阈值进行调整的算法可表示为： 式中，?是决定权值和阈值的收敛速度和稳定性参数，称之为学习速率，学习率越大，学习的速度越快，但过大的学习率会使修正过度，造成不稳定，反而使误差更大。在MATLAB神经网络工具箱中，可以通过 maxlinlr 函数确定最大的学习率。 线性神经网络的MATLAB仿真 线性神经网络的应用实例 以自适应线性网络实现噪声对消。 问题分析 利用自适应线性网络实现噪声对消的原理框图如图所示 ： 对消原理 MATLAB仿真程序设计 假设信号为一正弦信号，受到随机噪声的污染。根据以上分析，ADALINE自适应线性神经元的输入向量为随机噪声；正弦波信号与随机噪声之和为ADALINE神经元的目标向量；输出信号为网络调整过程中的误差信号。 本例线性神经网络MATLAB仿真程序设计的主要步骤： 以newlin创建线性神经网络 构造训练样本集 以adapt自适应调整所创建的网络，获得网络训练的误差信号，即为输出信号。 BP神经网络 BP神经元模型 BP神经网络特点 多层网络 理论上，如果隐层神经元数不加限制，两层BP网络可以完成输入到输出的任意函数影射。 传输函数为非线性函数，多为logsig和tansig函数，最后一层也可为purelin函数。 BP网络广泛应用最为广泛，80％～90％的人工神经网络模型是采用BP网络或它的变化形式，体现了人工神经网络最精华的部分。 BP网络的学习规则 标准的BP算法和LMS学习规则一样是一种梯度下降学习算法，其权值的修正是沿着误差性能函数梯度的反方向进行的。针对标准BP算法存在的一些不足，出现了几种基于标准BP算法的改进算法，如变梯度算法、牛顿算法等。 BP网络的MATLAB仿真 BP网络的应用实例 设计基于BP神经网络的印刷体字符0-9的识别系统。 BP网络的MATLAB仿真 问题分析 识别的对象是印刷体数字，这里我们以画图工具获得的不同字体、字号的数字0-9的BMP图形作为原始数据，编程对其进行预处理，获得16?16的二值图像，如图所示，其二值图像数据作为神经网络的输入。 BP网络的结构设计 我们选用两层BP网络，其输入节点数为16?16=256；隐层传输函数为logsig函数，假设采用一个输出节点表示10个数字，则输出层传输函数为pureline；隐层节点数取为25 。 BP网络的MATLAB仿真程序设计 本例MATLAB仿真程序设计的主要步骤： 构造训练样本集，并构成训练所需的输入矢量p和目标矢量t ； 对原始图像进行预处理； 创建和训练BP网络； 对训练后的网络进行仿真。 Hopfield网络 离散Hopfield 神经网络模型 Hopfield神经网络特点 引入了网络能量函数概念，使网络稳定性研究有了明确的判据； 善于联想记忆和进行优化计算等。 连续 Hoppfield 网络的电子电路实现为神经计算机的研究奠定了基础； Hopfield网络的设计 在MATLAB中，Hoppfield 网络是通过设计函数进行创建的，它没有学习函数，不能进行训练。网络设计的目标是：存储一组特定的稳定平衡点，当输入一组初始条件，网络最后可以唤醒对应的稳定平衡点。 初始条件输入后，一旦网络开始运行，网络的输出会自动反馈至输入，如此反复，直至网络的输出稳定为止，此时，每一个输出向量最终收敛于与初始条件激励的最接近的一个稳定平衡点。 Hopfield网络的MATLAB仿真 Hoppfield 网络的