神经网络课堂讲义.pptVIP

神经网络课堂讲义 第一页，共三十六页，2022年，8月28日 主要内容 第二页，共三十六页，2022年，8月28日 人工神经网络 人工神经网（Artificial Neural Network，ANN）是20世纪80年代后期迅速发展起来的人工智能技术，对未经训练的数据具有分类模拟的能力，因此在网站信息、生物信息和基因以及文本的数据挖掘等领域得到了越来越广泛的应用。 人工神经网络分为前馈和递归。 在前馈神经网络中,每一层的节点仅和下一层的节点相连。其中最简单的模型是感知器。 在递归神经网络中，允许同一层节点或一层的节点连到前面各层中的节点。 第三页，共三十六页，2022年，8月28日 感知器 人的视觉是重要的感觉器官，人通过视觉接受的信息占全部信息量的80~85%。 感知器是模拟人的视觉，接受环境信息，并由神经冲动进行信息传递的神经网络。 感知器分单层与多层，是具有学习能力的神经网络。 第四页，共三十六页，2022年，8月28日 单层感知器 第五页，共三十六页，2022年，8月28日 单层感知器模型三要素 第六页，共三十六页，2022年，8月28日 常见形式的激活函数 符号函数 线性函数 用于多层感知器模型。 第七页，共三十六页，2022年，8月28日 第八页，共三十六页，2022年，8月28日 双曲正切函数 第九页，共三十六页，2022年，8月28日 以符号函数为例 第十页，共三十六页，2022年，8月28日 学习单层感知器模型 第十一页，共三十六页，2022年，8月28日 学习单层感知器模型(续) 第十二页，共三十六页，2022年，8月28日 单层感知器学习算法的流程图 第十三页，共三十六页，2022年，8月28日 单层感知器训练步骤可总结如下： 第十四页，共三十六页，2022年，8月28日 第十五页，共三十六页，2022年，8月28日 第十六页，共三十六页，2022年，8月28日 线性可分问题 第十七页，共三十六页，2022年，8月28日 线性不可分问题 异或（XOR）问题 在二维平面中不存在一条直线，将输入模式分为两类。可见：单层感知器不能解决异或问题。 第十八页，共三十六页，2022年，8月28日 单层感知器的局限性 由于单层感知器的激活函数是符号函数，则感知器神经网络的输出只能取-1或1。因此单层感知器只能用于简单的分类问题。 只能解决线性可分问题，而大量的分类问题是线性不可分的。 当输入矢量中有一个数比其他数都大或小得很多时，可能导致较慢的收敛速度。 第十九页，共三十六页，2022年，8月28日 多层感知器 多层感知器(MLP)是一种多层前馈网络模型，它通常由三部分组成： (1)一组感知单元组成输入层 (2)一层或多层计算节点的隐藏层 (3)一层计算节点的输出层 它广泛应用于模式识别、图像处理、函数逼近、优化计算等领域。 根据Kolmogorov定理，只要给定足够数量 的隐藏层节点、适当的非线性函数、 以及权重，任何由输入向输出的连续映射 函数均可用一个三层前馈神经网络实现。  第二十页，共三十六页，2022年，8月28日 三层感知器的预测公式 第二十一页，共三十六页，2022年，8月28日 三层感知器解决异或(XOR)问题 第二十二页，共三十六页，2022年，8月28日 网络拓扑结构 第二十三页，共三十六页，2022年，8月28日 网络拓扑结构(续) 第二十四页，共三十六页，2022年，8月28日 网络拓扑结构(续) 第二十五页，共三十六页，2022年，8月28日 学习多层感知器模型 第二十六页，共三十六页，2022年，8月28日