《哈工大智能控制神经网络课件第一课人工神经网络理论及应用》-公开课件.pptVIP

反馈型神经网络 u (t) y (t) 有导师的学习（监督学习） 在学习过程中，网络根据实际输出与期望输出的比较，进行联接权系的调整，将期望输出称导师信号 是评价学习的标准（见图）。 期望输出 实际输出 学习机 输入 NN 比较 无导师的学习（无监督、或称自组织) 无导师信号提供给网络，网络能根据 　其特有的结构和学习规则，进行联接权系数的调整，此时，网络的学习评价标准隐含于其内部（见图）。 实际输出 学习机 输入 NN 自我 比 较 再励学习（强化学习） 把学习看为试探评价过程，学习机选择一动作作用于环境，环境的状态改变，并产生再励信号反馈至学习机，学习机依据再励信号与环境当前的状态，再选择下一动作作用于环境，选择的原则是使受到奖励的可能性增大（见图）。 状态 输入 NN1 NN2 学习机 输出---动作 环境 re 课程与其他学科关联 模式识别：监督学习，无监督学习 函数逼近论：逼近能力 最优化方法：学习算法 控制论：反馈网络，稳定性 模糊数学：模糊神经网络 课程主要研究角度I——函数逼近 给定一个函数f(x), 设计逼近函数 使误差小于给定误差。 课程主要研究角度II——模式识别 给定一组数据{xi} ,确定Q个分类， 使 课程主要内容 神经网络基本结构，BP网络及学习算法 其他类型网络 神经网络应用与实例 神经网络基本结构 网络基本结构与学习算法 BP网络基本结构与学习算法 BP算法改进 BP算法与问题实例 其他类型网络 径向基函数网络 竞争网络与自组织网络 Hopfield网络与联想记忆* 随机网络与模拟退火算法* 模糊神经网络 递归网络(时延网络)* 实例演示 神经网络应用与实例 神经网络辨识 神经网络控制 神经网络模式识别 应用实例 考核方式 平时40% 主要来自二次设计作业 (10%+30%) 如有相互抄袭，平时0分！ 考试60%——闭卷 联系方式 科学园E2栋(空间控制与惯性技术研究中心) 403 4031 屈桢深 参考文献 人工神经网络原理——入门与应用 适于入门 神经网络设计 全面介绍，深入浅出 神经网络控制 神经网络+控制 神经网络模型及其MATLAB仿真程序设计 IEEE Trans. IE, 2007(1) “Neural Network Applications in Power Electronics and Motor Drives—An Introduction and Perspective” 清晰简洁，适于入门 谢谢！ 人工神经网络理论及应用 屈桢深 哈尔滨工业大学 1. 概述 主要内容 引子：神经网络特点 发展历史 应用 模型、结构与学习算法 关于课程 神经网络特点——引子 一小段视频 (“The Matrix”, 1998)； 问题：机器是否能模拟人的思维？ 如果有一天，机器能够模拟人的所有感觉电信号，并且具有决策判断能力，那么如何定义“智能？” 生物神经网络特点 分布存储，容错性 并行处理 信息处理和存储二合为一 自组织性和可塑性 层次与系统性 信息按内容分布于大量的神经细胞之中，每个神经细胞存储着多种不同信息的部分内容； 信息的记忆反映在神经元的连接强度上； 网络各部分对学习和记忆具有等势作用，即使个别信息出错，完整信息仍能恢复。 人脑平均每天有10～40万个神经细胞死亡，但不影响人的记忆和处理功能 生物神经网络特点I——分布存储与容错性 神经网络的处理速度：慢，每次1ms左右； cmp PIV 2G计算机，每次1ns. 神经细胞结构也简单，但可在短时间内对一个复杂过程做出判断和决策。 在神经网络中，大量的神经元（人脑有100亿个）可同时进行处理，与传统的串行计算机具有不同的操作机理。 生物神经网络特点II——并行处理性 大脑对信息的分布存储和并行处理不是相互独立的，而是相互融合的；即每个神经元都兼有信息处理和存储功能。 神经元的连接强度的变化，既反映了对信息的记忆，又与神经元对激励的响应一起反映了信息的处理； 大脑对信息的提取，是寻找与处理过程的融合 cmp 计算机线寻址再存取 生物神经网络特点III——信息与处理合一 人脑在生长的过程中具有良好的可塑性； 不同能力发展：语言，运动，推理； 大脑可通过内部神经网络的自组织、自学习能力不断适应外界变化。“熟能生巧”反映的就是自组织能力。 e.g. 反复从事一项工作时，工作的各项技术特征就会“融化”在大脑的神经元中，随着工作的反复进行，提高神经元对这些技术特征及操作要领的灵敏度 生物神经网络特点IV——可塑性与自组织性 结构极为简单的神经元，通过系统的组合功能效应，完成复杂的信