突触动力学Ⅱ有监督学习 - 西安电子科技大学电子工程学院.ppt

chapter 5 突触动力学Ⅱ—— 有监督学习 学号：0622310213 姓名： 余 景 景 本章内容要点 有监督学习的理论解释 有监督的函数估计 有监督的学习相当于操作性条件反射 有监督的学习相当于有先验知识的随机模式学习 前馈网络的监督学习算法 感知器 最小均方误差（LMS）算法 反向传播（BP） 算法 第一部分内容 有监督学习和无监督学习 有监督的函数估计 有监督学习相当于操作性条件反射 有监督学习相当于有先验知识的随机模式学习 有监督学习 给定一系列训练样本，其中每个样本都做上了标记，比如说标记出这个样本来自对一个苹果的一次观测。学习的目的是从这些带有标记的样本中学习到一些概念,比如说什么样的数据对应苹果而不是香蕉,并且在未来给出新的样本时,能够正确预测新样本的标记。 无监督学习 给定一系列没有任何标记的训练样本,学习的目的时发现隐藏在这些样本中的某种结构,例如样本的聚类情况 。 有监督的函数估计 给定观察得到的随机矢量样本对： 要估计一个未知函数： 使得期望误差函数E[J]最小。 误差=期望输出-实际输出 有监督的函数估计 设N为一个神经网络的传递函数，那么可以定义瞬时误差为 ，这是一个随机向量，由于我们不知道联合概率密度函数p(x,y)无法求出 ，一般用均方差 替代。 随机逼近用观测到的随机量来估计期望值，然后在离散的近似算法中使用这些估计量。 用的比较多的近似算法是随机梯度下降法。如本章将要讲述的Widrow’s LMS算法中所用的就是随机梯度。 有监督学习相当于操作性条件反射 操作性条件反射强化响应，如果输入与期望的输出不同，就调节权值m。 无监督学习相当于传统条件反射 有监督学习相当于 有先验知识的随机模式学习 模式：模式空间 上的点 时变模式：定义在 中的轨迹线 随机模式学习 由已知的样本x(1)，x(2)…x(n)来估计x的概率密度函数p(x) 模式类： 是 的子集，也叫决策类，满足： 有监督学习相当于 有先验知识的随机模式学习 类的概率 其中 ，是一个指示器函数，定义为 指示函数指出了模式 x 的类隶属关系。如果 S 是将映射到 而不是 。就称模式 x 以不同的程度隶属于不同的类。 类的概率满足 区分学习类型的标准：先验知识 在有监督和无监督模式学习中，系统都不知道 它们的区别在于是否有先验知识以及学习系统如何利用 贝叶斯学习中用到了指示器函数，是有监督的学习 噪声随机竞争学习律： 没有使用类成员信息校正突触矢量，是非监督学习 监督随机竞争学习律： 采用增强函数 奖励正确的模式分类＋1，惩罚错误的模式分类为－1。 是有监督模式学习。 * * 环境 学习系统 状态向量 传统条件反射强化刺激。这种神经网络直接把输入 x耦合到输出y。 例如，一个生物体学会了一刺激响应对： 那么在条件刺激 S中加一个条件B进行学习，得到 不断强化刺激，直到输入B时反应为R。这样就有： 也就是学会了一条规则。如巴普洛夫条件反射试验。 *