计算智能--人工神经网络7.ppt

第二部 计算智能 Computational Intelligence 计算智能的概念 计算智能（Computational Intelligence）1992—贝兹德克(Bezdek)：CI取决于数据，不依赖知识；AI应用知识精品. 计算智能 : 生命科学 + 信息科学 计算智能是信息科学、生命科学、认知科学等不同学科相互交叉的产物。它主要借鉴仿生学的思想，基于人们对生物体智能机理的认识，采用数值计算的方法去模拟和实现人类的智能。 计算智能的主要研究领域包括：神经计算、进化计算、模糊计算、蚂群计算等。 计算智能的主要研究领域 神经网络是一种对人类智能的结构模拟方法，它是通过对大量人工神经元的广泛并行互联，构造人工神经网络系统去模拟生物神经系统的智能机理的。 进化计算是一种对人类智能的演化模拟方法，它是通过对生物遗传和演化过程的认识，用进化算法去模拟人类智能的进化规律的。 模糊计算是一种对人类智能的逻辑模拟方法，它是通过对人类处理模糊现象的认知能力的认识，用模糊逻辑去模拟人类的智能行为的。 人工智能与计算智能 AI ：基于知识处理 CI ：基于数值计算 高级认知形式 低级认知形式 逻辑计算 自然计算 推理学习 优化适应 计算复杂度： CI --〉 AI --–〉 BI (Biological) 大量实践证明，只有把AI和CI很好地结合起来，才能更好地模拟人类智能，才是智能科学技术发展的正确方向。 组合优化问题求解 局部搜索（LS：Local Search） 遗传算法 (GA：Genetic Algorithm) 人工神经网络（ ANN: Artificial Neural Network ） 模拟退火算法（SA：Simulated Annealing ） 蚂蚁群算法 (ACA ：Ant Colony Algorithm) 免疫算法 (IA：Immune Algorithm ) 粒子群优化算法（PSO：Particle Swarm Optimization ） …… 第六章 人工神经网络( ANN : Artificial Neural Network ) 人工神经网络概述 多层前馈神经网络(BP网络) HOPFIELD神经网络 HOPFIELD网络应用 6.1 人工神经网络概述(一) 人工神经网络( Artificial Neural Network : ANN ) : 抽象,简化与模拟大脑生物结构的计算模型,也称连接主义或并行分布处理( Paralell Distributed Processing : PDP)模型 人工神经元 ANN的三大要素:神经元，网络拓扑结构, 学习算法 拓扑结构: 分层结构, 互连结构 学习算法: 监督型(有指导), 非监督型(没指导) 生物神经元结构 神经元的工作机制 神经元组成：细胞体（处理器）、树突（输入端）、轴突（输出端） 神经元有两种工作状态：兴奋和抑制 神经元间的连接权是可以接受外界刺激而改变的，这构成了学习机能的基础。 什么是神经元网络 神经元网络(Neural Net)指由大量神经元互连而成的网络，有点象服务器互连而成的国际互连网(Internet). 人脑有1000亿个神经元，每个神经元平均与10000个其他神经元互连，这就构成了人类智慧的直接物质基础。 人工神经元的基本结构 要素 : 权值(wi), 门限值(θ), 非线性激励函数(f) 状态 : 被激活的兴奋状态 (ui = θ) 没被激活的抑制状态(ui θ) 常用神经元激励函数(一) 常用神经元激励函数(二) 多层神经网络 yj= f( (∑wijhi) -θj) 激励函数为Sigmoid 6.1 人工神经网络概述(二) ANN的突出特点 信息的分布存储：即使局部损坏，通过联想可恢复。 自适应,自组织,自学习：根据环境自动改变网络及结构。 并行处理：速度快。 非线性映射：任意精度逼近。 从训练样本中自动获得知识：特别是针对复杂环境。 ANN的应用---走向实用化 诊断与检测：疾病诊断、故障检测等。 识别：图像、文字、指纹、语音等。 分析与预测：天气、市场、股票，决策控制、管理等。 6.1 人工神经网络概述(二) ANN的分类 拓扑结构：无反反馈/有反馈、层次/全连接 学习方法：有教师/无教师 网络性能：连续型/离散型、线性/非线性 确定性 ：确定性/随机型 ANN的发展 到50年代中期前 到60年代末期