第71章人工神经网络.pptVIP

* 算法流程 第31页/共40页 * 7.1.4 第32页/共40页 * 第33页/共40页 * 第34页/共40页 * 第35页/共40页 * 第36页/共40页 * 第37页/共40页 * 第38页/共40页 * 第39页/共40页 * 第40页/共40页 * 在本章第一节，我们学习了“计算智能”的第一分支“人工神经网络”。同学们回顾一下，“人工神经网络”在哪方面发挥了重要作用？（机器学习）。 今天我们在学习“计算智能”的第二分支：遗传算法，它在最优化问题求解方面效率很高，应用广泛。 1、达尔文?(1809-1882)英国博物学家,进化论奠基人 。《物种起源》是达尔文进化论的代表作，标志着进化论的正式确立。 2、孟德尔 (1822-1884)，进行了植物杂交试验，发现了生物遗传的基本规律 ：2个定律，即独立分配和自由组合定律，后人称为孟德尔定律，从而创建了遗传学。 第 7章 计算智能 –人工神经网络 第 7章 计算智能 * 7.1 人工神经网络(ANN) 人工神经网络（Artificial Neural Netwroks），就是基于模仿生物大脑的结构和功能，经过一定的抽象、简化与模拟的人工信息处理模型。 人工神经网络在机器学习、模式识别、组合优化和决策判断等方面取得广泛应用，是传统计算机所难以达到的效果。 本节简介人工神经网络的基本模型、算法流程及其应用。通过学习，会用人工神经网络求解优化问题（如TSP）、模式识别（如手写汉字）。 第1页/共40页 * 本节主要内容 人工神经网络的生物学基础 人工神经元 人工神经网络基本模型 人工神经网络求解TSP 第2页/共40页 * 人工神经网络系统源于人脑神经网络。了解人脑神经网络的组成和原理，有助于对人工神经网络的理解。(1)人脑神经结构 1）1011-12个神经元/人脑 2）104个连接/神经元 3）神经元间传递信号 7.1.1 人工神经网络的生物学基础 第3页/共40页 * 1）神经元构成： 细胞体：直径在5至100微米，含细胞核，细胞质和细胞膜； 轴 突：是细胞体伸出的最长一条分支(细胞的输出)； 树 突：是细胞体伸出的较短的树状分支(细胞的输入)； 突 触：是神经元之间连接的接口。 （2）生物神经元 第4页/共40页 * 2）神经元的工作机制 神经元与神经纤维构成的神经组织具有两种基本特性，即兴奋与传导。当神经元的某一部分受到某种刺激时，在受刺激的部位就产生兴奋。当这种兴奋达到一定程度（阈值）就会沿着神经元扩散开来，并在一定的条件下通过突触传达到相连的神经细胞。 第5页/共40页 * （3）人脑的工作机制 1）记忆生理机制 研究结果表明，在脑细胞经受多次某个对象的刺激而保持连续兴奋状态时，只有当这种刺激达到一定强度(阀值)之后，脑细胞里才会留下痕迹。而且当这个对象刺激的频率提高，记忆更加牢固。 2）信息传递 突触是神经细胞间传递信息的结构，突触由三部分构成，即突触前，突触间隙和突触后。 第6页/共40页 * 突触前的活动不直接引起突触后成分的活动，突触的信息传递只能由突触前到突触后，不存在反向活动的机制。因此突触传递是单方向的。根据突触后电位的反应，将突触分为两种：兴奋性突触和抑制性突触。 3）脑神经信息活动的特征 巨量并行性。 信息处理和存储单元结合在一起。 自组织自学习功能。 第7页/共40页 * 7.1.2 人工神经元 (1)模型（MP模型） MP模型属于一种阈值元件模型，它是由美国Mc Culloch和Pitts提出的最早神经元模型之一。MP模型是大多数神经网络模型的基础。 第8页/共40页 * wij ——代表神经元i与神经元j之间的连接强度（连接权）； Ui ——代表神经元i的活跃值，即神经元状态； Vj ——代表神经元j的输出，即是神经元i的一个输入； Θi ——代表神经元i的阈值。 如果把阈值θi看作为一个特殊的权值，则可改写： 其中，w0i＝-θi，v0＝1 中函数f表达神经元的输入输出特性，称激发函数。 第9页/共40页 * （2）常用激发函数 ①阶跃型 ②线性型激发函数 f(ui)=k*ui ③S型激发函数 第10页/共40页 * （3）学习规则 MP模型并没有给出一个学习算法来调整神经元之间的连接权。根据需要，调整神经元连接权，才能达到学习目的。Hebb学习规则就是一个常见学习算法。 Hebb学习规则:调整神经元连接