SOM神经网络课题.pptVIP

自组织神经网络 例：用竞争学习算法将下列各模式分为2类 自组织神经网络 自组织神经网络 SOM网研究背景 1981年，T.Kohonen教授提出一种自组织特征映射网，简称SOM网，又称Kohonen网。 Kohonen认为：一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的，其特点与人脑的自组织特性相类似。 SOM网研究背景 SOM神经网络有许多的不足之处，例如，它的最终权向量受输入样本序列的影响，易受噪声点和野值的影响，拓扑保持能力有限，缺乏理论上的收敛性证明等等，针对SOM网络的不足，许多学者开始做大量的改进工作，最具有代表性的有FKCN，Kohonen SOFM．C，LVQ。 20世纪90年代中期出现了基于核的学习方法，该方法能够高效地分析处理非线性关系，而且这种方法的效率水平能与线性算法基本持平，使得研究人员前进了一大步。该方法在统计分析领域得到进一步发展之后，在高维特征空问内也能够达到比较高的效率，并且避免了过度拟合的危险。 SOM网研究背景 近年来，神经网络正向模拟人类认知的道路上更加深入发展，与模糊系统、遗传算法、进化机制等结合，形成计算智能，成为人工智能的一个重要方向，将在实际应用中得到发展。 自组织特征映射神经网络 1.拓扑结构 SOM网共有两层，输入层模拟感知外界输入信息的视网膜，输出层模拟做出响应的大脑皮层。 自组织特征映射神经网络 2.SOM网络的Kohonen算法 SOM采用的是 Kohonen算法，他在 Winner-Take-All（WTA）学习规则的基础上加以改进，主要是调整权向量与侧抑制的方式不同。 WTA：侧抑制是“封杀”式的，只有获胜神经元可以调整其权值。 Kohonen：获胜神经元对其邻近神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此不仅获胜神经元本身要调整权向量，它周围的神经元在其影响下也要程度不同地调整权向量。 自组织特征映射神经网络 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的所有神经元均按其离开获胜神经元的距离远近不同程度地调整权值。常见的调整方法有以下几种 自组织特征映射神经网络 Kohonen 学习算法 : (1)初始化 对输出层各权向量赋小随机数并进行归一化处理，得到W?j,j=1,2,…m；建立初始优胜邻域Nj*(0)；学习率? 赋初始值。 (2)接受输入 从训练集中随机选取一个输入模式并进行归一化处理，得到X^p，p?{1,2,…,P}。 (3)寻找获胜节点 计算 W?j 与 X^p 的点积，j=1,2,…m，从中选出点积最大的获胜节点j*。 (4)定义优胜邻域Nj* (t) 以j*为中心确定t 时刻的权值调整域，一般初始邻域 Nj* (0)较大，训练过程中Nj* (t)随训练时间逐渐收缩。优胜邻域开始定得很大，但其大小随着训练次数的增加不断收缩，最终收缩到半径为零。 自组织特征映射神经网络 自组织特征映射神经网络 Kohonen 学习算法 : (5)调整权值 对优胜邻域Nj*(t)内的所有节点调整权值： i=1,2,…n j?Nj*(t) 式中， 是训练时间t 和邻域内第j 个神经元与获胜神经元 j* 之间的拓扑距离N 的函数，该函数一般有以下规律： 自组织特征映射神经网络 Kohonen 学习算法 : (6)结束检查 学习率是否衰减 到零或某个预定的正小数？ 算法流程图 自组织特征映射神经网络 例：人口分类是人口统计中的一个重要指标，我国人口出生率在性别上差异较大，一般男的占多数，大大超过正常的比例。因此，正确进行人口分类是指定合理的人口政策的基础。 某地某年，10个地区人口出生比例情况，如下表： 男 0.5512 0.5123 0.5087 0.5001 0.6012 0.5298 0.5000 0.4965 0.5103 0.5003 女 0.4488 0.4877 0.4913 0.4999 0.3988 0.4702 0.5000 0.5035 0.4897 0.4997 利用SOM对人口进行分类，并预测 自组织特征映射神经网络 第一步： p=[0.5512 0.5123 0.5087 0.5001 0.6012 0.5298 0.5