6-自组织神经网络(SOM).pptVIP

* * 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的所有神经元均按其离开获胜神经元的距离远近不同程度地调整权值。 优胜邻域开始定得很大，但其大小随着训练次数的增加不断收缩，最终收缩到半径为零。 * * 训练阶段 * * w1 w2 w3 w4 w5 工作阶段 * * Kohonen 学习算法 (1)初始化 对输出层各权向量赋小随机数并进行归一化处理，得到 ，j=1,2,…m；建立初始优胜邻域Nj*(0)；学习率? 赋初始值。 (2)接受输入 从训练集中随机选取一个输入模式并进行归一化处理，得到 ，p?{1,2,…,P}。 (3)寻找获胜节点 计算 与 的点积，j=1,2,…m，从中选出点积最大的获胜节点j*。 (4)定义优胜邻域Nj*(t) 以j*为中心确定t 时刻的权值调整域，一般初始邻域Nj*(0)较大，训练过程中Nj*(t)随训练时间逐渐收缩。 * * Kohonen学习算法 * * (5)调整权值 对优胜邻域Nj*(t)内的所有节点调整权值： i=1,2,…n j?Nj*(t) 式中， 是训练时间t 和邻域内第j 个神经元与获胜神经元 j* 之间的拓扑距离N 的函数，该函数一般有以下规律： * * Kohonen学习算法 (5)调整权值 * * (6)结束检查 学习率是否衰减到零或某个预定的正小数？ Kohonen学习算法 * * Kohonen学习算法程序流程 SOM网络的功能 SOM网络的功能特点之一是：保序映射，即能将输入空间的样本模式类有序地映射在输出层上。 例 动物属性特征映射 1989年Kohonen给出一个SOM网的著名应用实例，即把不同的动物按其属性映射到二维输出平面上，使属性相似的动物在SOM网输出平面上的位置也相近。 训练集选了16种动物，每种动物用一个29维向量来表示。前16个分量构成符号向量（不同的动物进行16取1编码），后13个分量构成属性向量，描述动物的13种属性的有或无（用1或0表示）。 16种动物的属性向量（29维向量的后13个分量） 动物 属性 鸽子 母鸡 鸭 鹅 猫头鹰 隼 鹰 狐狸 狗 狼 猫 虎 狮 马 斑马 牛 小 1 1 1 1 1 1 0 0 0 0 1 0 0 0 0 0 中 0 0 0 0 0 0 1 1 1 1 0 0 0 0 0 0 大 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1 2只腿 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 4只腿 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 毛 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 蹄 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 动物 属性 鸽子 母鸡 鸭 鹅 猫头鹰 隼 鹰 狐狸 狗 狼 猫 虎 狮 马 斑马 牛 鬃毛 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 羽毛 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 猎 0 0 0 0 1 1 1 1 0 1 1 1 1 0 0 0 跑 0 0 0 0 0 0 0 0 1 1 0 1 1 1 1 0 飞 1 0 0 1 1 1 1 0 0 0 0 0 0 0 0 0 泳 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 SOM网输出平面上有10×10个神经元，16个动物模式轮番输入训练，最后输出平面呈现16种动物属性特征映射，属性相似的挨在一起，实现了特征的有序分布。 10×10神经元 X向量（29维） 前16个分量 （16取1，表达动物种类。） 后13个分量（表达动物属性） 鸭 鹅 鸽 母鸡 马 斑马 牛 隼 狼 虎 狮 猫 狗 狐 猫头鹰 鹰 动物属性特征映射 SOM网的功能特点之二是数据压缩。 将高维空间的样本在保持拓扑结构不变的条件下投影到低维空间。如上例中输入样本空间为29维，通过SOM网后压缩为二维平面的数据。 SOM网的功能特点之三是特征抽取。（规律的发现） 在高维模式空间，很多模式的分布具有复杂的结构，从数据观察很难发现其内在规律。当通过SOM网映射到低维输出空间后，其规律往往一目了然，实现某种特征抽取的映射。即高维空间的向量经过特征抽取后可以在低维特征空间更加清晰地表达，因此映射的意义不仅仅是单纯的数据压缩，更是一种规律发现。如上例29维映射到二维后，相近属性的动