自组织神经网络 A Self-Organising Map SOM.pptVIP

第四章 自组织神经网络 主讲:赵姝 zhaoshuzs@163.com 安徽大学计算机科学与技术学院 主要内容 4.1竞争学习的概念与原理 4.2自组织特征映射神经网络 4.3对偶传播神经网络 4.4自适应共振理论网络 自组织神经网络的典型结构 4.1竞争学习的概念与原理 4.1.1 基本概念 分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。 聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开。 相似性测量——欧式距离法 4.2自组织特征映射神经网络 （Self-Organizing feature Map） 1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网，简称SOFM网，又称Kohonen网。 Kohonen认为：一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的，其特点与人脑的自组织特性相类似。 SOM网的生物学基础 生物学研究的事实表明，在人脑的感觉通道上，神经元的组织原理是有序排列。因此当人脑通过感官接受外界的特定时空信息时，大脑皮层的特定区域兴奋，而且类似的外界信息在对应区域是连续映象的。 对于某一图形或某一频率的特定兴奋过程，神经元的有序排列以及对外界信息的连续映象是自组织特征映射网中竞争机制的生物学基础。 SOM网的拓扑结构 SOM网共有两层，输入层模拟感知外界输入信息的视网膜，输出层模拟做出响应的大脑皮层。 SOM网的权值调整域 SOM网的获胜神经元对其邻近神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此其学习算法中不仅获胜神经元本身要调整权向量，它周围的神经元在其影响下也要程度不同地调整权向量。这种调整可用三种函数表示： SOM网的权值调整域 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的所有神经元均按其离开获胜神经元的距离远近不同程度地调整权值。 优胜邻域开始定得很大，但其大小随着训练次数的增加不断收缩，最终收缩到半径为零。 SOM网的运行原理 训练阶段 SOM网的运行原理 工作阶段 SOM网的学习算法 SOM网的学习算法 Kohonen学习算法 SOM网的学习算法 (5)调整权值 对优胜邻域Nj*(t)内的所有节点调整权值： i=1,2,…n j?Nj*(t) 式中， 是训练时间t 和邻域内第j 个神经元与获胜神经元 j* 之间的拓扑距离N 的函数，该函数一般有以下规律： SOM网的学习算法 (5)调整权值 功 能 分 析 (1)保序映射——将输入空间的样本模式类有序地映射在输出层上。 例1：动物属性特征映射。 (2)数据压缩 —— 将高维空间的样本在保持拓扑结构不变的条件下投影到低维空间。 (3)特征抽取 —— 高维空间的向量经过特征抽取后可以在低维特征空间更加清晰地表达。 例2：SOM网用于字符排序。 基于SOFM网络的人口分类 习题4.9：下表是1999年12月国内10个地区的人口出生比例情况。 样本设计：用上表中的数据作为网络的输入样本X(x1,x2) x1----男性出生比例，x2---女性出生比例。X的分布情况如下图： 网络的创建：利用12个神经元的SOM对输入向量X进行分类。该网络竞争层神经元的组织结构为3x4,通过距离函数linkdist来计算距离。 每个神经元的初始权值设成0.5。 网络测试与训练： 我们利用train函数对网络进训练，设想经过训练的网络可对输入向量进行正确分类。由于网络训练步数对网络性能的影响比较大，我将步数设置为100、300、500，并观察其权值分布。 训练步数为100时的权值调整图为： 从上面三个图可以看出，训练了100步以后，神经元就开始自组织地分布了，每个神经元可以区分不同的样本。随着训练步数的增多，神经元的分布更合理。但是，当训练步数达到一定值后，权值分布的改变就不很明显了。比如训练300步和500步后的权值分布就比较相似。 网络训练结束后，我们利用仿真函数sim来观察网络对样本数据的分类结果。 Y=sim(net,X); Y=vec2ind(Y) 结果为： 对结果分析如下表：