单层前向网络及LMS算法.pptVIP

第2章 单层前向网络及LMS学习算法 2.1.单层感知器 概述 由美国学者Rosenblatt在1957年首次提出 学习算法是Rosenblatt在1958年提出的 包含一个突触权值可调的神经元 属于前向神经网络类型 只能区分线性可分的模式 IEEE设立以其名字命名的奖项 2.1.1单层感知器 单层感知器模型 2.1.1单层感知器 2.1.1单层感知器 单层感知器工作原理 对于只有两个输入的判别边界是直线（如下式所示）,选择合适的学习算法可训练出满意的 和 ，当它用于两类模式的分类时，相当于在高维样本空间中，用一个超平面将两类样本分开。 2.1.2单层感知器的学习算法 单层感知器学习算法思想 基于迭代的思想，通常是采用误差校正学习规则的学习算法。 可以将偏差b作为神经元权值向量的第一个分量加到权值向量中,也可以设其值为0 输入向量和权值向量可分别写成如下的形式： 令上式等于零，可得到在维空间的单层感知器的判别超平面。 2.1.2单层感知器的学习算法 单层感知器学习算法 第一步,设置变量和参量。 为激活函数, 为网络实际输出， 为期望输出， 为学习速率， 为迭代次数， 为实际输出与期望输出的误差。 第二步,初始化 给权值向量 的各个分量赋一个较小的随机非零值，置 第三步,输入一组样本