智能控制2.前向网络及其主要算法.ppt

智能控制系统 天津大学电气与自动化工程学院 2.前向网络及其主要算法 2.2 BP网络 Rumelhart，McClelland于1985年提出了BP网络的误差反向后传BP(Back Propagation)学习算法 2.前向网络及其主要算法 BP算法基本原理 利用输出后的误差来估计输出层的直接前导层的误差，再用这个误差估计更前一层的误差，如此一层一层的反传下去，就获得了所有其他各层的误差估计。 结构：多层前向网络。 2.前向网络及其主要算法 2.前向网络及其主要算法 激发函数 必须处处可导,一般都使用S型函数 使用S型激活函数时BP网络输入与输出关系 输入 输出 输出的导数 2.前向网络及其主要算法 2.前向网络及其主要算法 学习算法 学习的类型：有导师学习 核心思想： 将输出误差以某种形式通过隐层向输入层逐层反传 算法组成：正向传播 + 反向传播 （输入信息）（误差信号） 2.前向网络及其主要算法 2.前向网络及其主要算法 算法步骤 网络结构：输入层有M个神经元，隐含层有q个神经元, 输出层有L个神经元。 学习样本：设有N个学习样本，每个学习样本包括M个输入和L个输出。通过学习使BP网络符合这些样本。以学习第p个