人工神经络简介.pptVIP

人工神经网络 讲座人：冯源 人工神经网络 智能的含义 人类能记忆事物，能有目的地进行一些活动，能通过学习获得知识，并能在后续的学习中不断地丰富知识，还有一定的能力运用这些知识去探索未知的东西，去发现、去创新。 人类个体智能是一种综合能力 感知与认识客观事物、客观世界和自我的能力 通过学习取得经验秘积累知识的能力 理解并运用知识和经验分析、解决问题的能力 联想、推理、判断、决策的能力 运用语言进行抽象、概括的能力 发现、发明、创造、创新的能力 实时、迅速、合理地应付环境的能力 预测、洞察事物发展、变化的能力 人工智能 人工智能（Artificial Intelligence,简记AI）最早在1956年被引入的。 人工智能就是研究如何让计算机模仿人脑进行工作。 学术流派 有代表性的包括： 符号主义（或符号/逻辑主义）学派 联接主义（或并行分布处理）学派 进化主义（或行动/响应）学派 物理符号系统 Newell和Simon在1976年提出的假说，他们认为：一个物理系统表现智能行为的充要条件是它有一个物理符号系统。 联接主义观点 认为：智能的本质是联接机制，神经网络是一个由大量简单的处理单元组成的高度复杂的大规模非线性自适应系统。 人工神经网络 力求从四个方面模拟人脑的智能行为 1、物理结构 2、计算模拟 3、存储与操作 4、训练 两种模型的比较 两种人工智能技术的比较 生物神经元的组成 细胞体（Cell body） 树突（Dendrite） 轴突（Axon） 突触（Synapse） 人的大脑由 个神经元构成，神经元互相连接构成神经网络。 生物神经元 电脑模拟的锥体神经细胞 生物神经系统有基本特征 神经元及其联接 神经元之间的联接强度决定信号传递的强弱 神经元之间的联接强度可以随训练而改变的 信号可以是起刺激作用的，也可以是起抑制作用 一个神经元接受的信号的累积效果决定该神经元的状态 每个神经元可以有一个“阈值” 突触传递信息特点： 1、时延性（0.3—1ms） 2、综合性：时间与空间的累加 3、类型：兴奋与抑制 4、脉冲与电位转换（D/A功能） 5、速度:1—150m/s 6、不应期（死区）3—5ms 7、不可逆性（单向） 8、可塑性：强度可变 大脑处理信息的特点 分布存储与冗余性 并行处理 信息处理与存储合一 可塑性与自组织性 鲁棒性 人工神经网络的定义 1988年，Hecht--Nielsen曾经给人工神经网络下了如下定义：人工神经网络是一个并行、分布处理结构，它由处理单元及称为联接的无向信号通道互连而成。这些处理单元（PE—Processing Element）具有局部内存，并可以完成局部操作。每个处理单元有一个单一的输出联接，这个输出可以根据需要被分支成希望个数的许多并行联接，且这些并行联接都输出相同的信号，即相应处量单元的信号，信号的大小不因分支的多少而变化。处理单元的输出信号可以是任何需要的数学模型，每个处量单元中进行的操作必须是完全局部的。也就是说，它必须仅仅依赖于经过输入联接到处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。 处理单元就是人工神经元。 PDP（Parallel Distributed Processing）理论框架 Rumellhart 、McClelland 、Hinton等人提出 1 一组处理单元（PE或AN） 2 处理单元的激活状态 3 每个处理单元的输出函数 4 处量单元之间的联接模式 PDP（Parallel Distributed Processing）理论框架 PDP模型下的人工神经元网络模型 人工神经网络的定义 1987年，Simpson从人工神经网络的拓朴结构出发，给出一个虽不太严格但简明扼要的定义：人工神经网络是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可以从不完整的或未知的输入找到模式。 人工神经网络的特点 学习能力 泛化能力 信息的分布存放 适用性问题 1、对大量的数据进行分类，并且只有较少的几种情况 2、必须学习一个复杂的非线性映射 人工神经网络的发展是曲折的 萌芽期 1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权和模型，简称为M-P模型； 心理学家D.O.Hebb提出Hebb学习律 ——人工神经网络学习训练算法的起点，是里程碑 Hebb学习律 联接两个神经元的突触的强度按如下规则变化：在任意时刻，当这两个神经元处于同一种状态时，表明这两个神经元具有对问题响应的一致性，所以它们应该互相支持，其间的信号传输应该加强，这是通过加强它们之间的突触的联接强度实现的。反之，在某一时刻，当这两个神经元处于不同的状态时，表明它们对