小脑模型神经网络课件.pptVIP

* 小脑模型神经网络 小脑模型神经网络（CMAC）是模拟人的小脑的一种学习结构，是基于表格查询式输入输出的局部网络模型，提供了一种从输入至输出的多维非线性映射能力。 2-7-1 CMAC的结构及工作原理 CMAC是前馈网，结构见图，由两个基本映射，表示输入输出之间的非线性关系。 ? y AC ＋ U输入空间 杂散编码 AP(W) 输出 输入向量 图2-7-1 CMAC结构 * 1. 概念映射（U——AC） y AC ＋ U输入空间 杂散编码 AP(W) 输出 输入向量 图2-7-1 CMAC结构 * 2. 实际映射（AC——AP） y AC ＋ U输入空间 杂散编码 AP(W) 输出 输入向量 图2-7-1 CMAC结构 * 杂散存储 若输入是n维，每一维有q个量化级，则AC占很大容量。但，训练样本 不可能遍历所有输入空间，在AC中被激励的单元是很稀疏的。 杂散存储：可将AC压缩到较小的AP中。 有多种方法，“除余数法”是其中较好的一种。 杂散存储弱点：产生碰撞（冲突） 即AC中多个联想单元，被映射到AP的同一单元，见图，这意味着 信息的丢失。 （c）邻近两点输入重叠单元=3,有碰撞 （b）邻近两点输入重叠单元=3,无碰撞 * 2-7-2 CMAC的学习算法及分析 * CMAC 工作原理、学习算法 　　（以单输出为例） 手控 自控 演示 * 2. 学习算法分析 CMAC的学习算法与自适应线性神经元的相同。但，因有重叠、 碰撞，故对学习算法及收敛性，需予以分析（讨论单输出）。 分析算法 　　 Gauss-Seidel迭代法 Jacobi迭代法 分析情况、结论 （1）?? 输入样本有重叠，杂散编码无碰撞 　　　　　　 若重叠少，解收敛 （2）?? 输入样本有重叠，杂散编码有碰撞 　　　　 因碰撞，收敛速度降低、 收敛性态变坏、 也可能不收敛 * 0次接收域函数例 （b）邻近两点输入重叠单元=3, 无碰撞 （a） 一维c=4 c=4 1 （c）邻近两点输入重叠单元=3,有碰撞 * 2-7-3 有关的几个问题 ? （1） CMAC的逼近原理：用分段超平面，拟合非线性超曲面。 （2） 因是局部网络，每次学习调整的权数为c个，故学习速度快，不存在局部极小。 （3） 泛化能力与c有关，c增大，泛化能力增强。相近的输入，有相近的输出。 （4） 决定网络性能的主要参数：泛化常数c；相邻输入间的重叠程度；输入的量化级。影响到逼近精度、泛化能力和学习速度。 （5） 为提高量化分辨率和泛化能力，需增加存储容量。它随输入维数的增加而增加。 （6） 高阶CMAC：为提高逼近精度，也可提高接收域函数的阶次，若图2-7-2为0次接收域函数，高阶CMAC用1次接收域函数，见图2-7-3。 * 例2-7-1 用Gauss-Seidel迭代算法。 * * 例2-7-2 用CMAC逼近非线性函数。 （a） * （b） （c） （d） （e） * 演示 例2-7-2 用CMAC逼近非线性函数 手控　　　自控 *