人工智能与神经网络-神经网络基础.pptVIP

第四节 神经网络的构成原理 二：激活规则：由本时刻的激活状态（内部状态）， 决定下一时刻激活状态 的规则。 在MP模型中 三：神经元的输出函数（3种类型） 1 静态映射关系模型 在MP模型中表示为 第四节 神经网络的构成原理 2 动态系统模型：差分方程的形式 3 概率统计模型：如随机网络，输出按Beltzmann分布 另外从输出与输入静特性上又分为3类 线性函数： 第四节 神经网络的构成原理 硬限幅函数（阈值函数） 阶跃函数1（.） 符号函数sgn（.） 非线性函数：值在两个有限值之间取值，连续非递减函数 sigmoid函数 双曲正切函数 1 0.5 -1 1 第四节 神经网络的构成原理 响应函数的基本作用： 1、控制输入对输出的激活作用； 2、对输入、输出进行函数转换； 3、将可能无限域的输入变换成指定的有限范围内的 输出。 第四节 神经网络的构成原理 四：连接方式 （一）前向网络（前馈网络） … … 输出层 输入节点 隐蔽层 计算层 神经网络基础 一 序言 二 神经网络的发展史及研究现状 三 神经元数学模型 四 神经网络的构成原理 五 神经网络的功能及特点 第一节 序言 智能控制是控制科学发展的高级阶段，是一门新兴的交叉学科，具有广泛的应用领域。按照智能控制创始人K.S.Fu的观点，智能控制（IC）是自动控制（AC）、人工智能（AI）和运筹学（OR）的交集。20世纪末，研究智能控制的学者把智能控制的内容分为三大分支，即神经网络、模糊控制和专家系统。随着对不确定性系统处理的要求，适应于全局寻优的遗传算法、处理海量数据的粗糙集理论、处理小样本数据的支持向量机等理论为智能控制的发展增加了新的研究方法。 第一节 序言 以冯·诺依曼型计算机为中心的信息处理技术的高速发展，使得计算机在当今的信息化社会中起着十分重要的作用。但是，当用它来解决某些人工智能问题时却遇到了很大的困难。 大脑是由生物神经元构成的巨型网络，它在本质上不同于计算机，是一种大规模的并行处理系统，它具有学习、联想记忆、综合等能力，并有巧妙的信息处理方法。 人工神经网络(简称神经网络)也是由大量的、功能比较简单的形式神经元互相连接而构成的复杂网络系统，用它可以模拟大脑的许多基本功能和简单的思维方式。 第一节 序言 人工神经网络（Artificial Neural Networks,简记作ANN），是对人类大脑系统的一阶特性的一种描述。简单的讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 神经网络主要用于非线性系统的辨识建模、非线性过程的预测、神经网络控制及故障诊断等。 第二节 神经网络的发展史及研究现状 2．1 萌芽期（20世纪40年代） 对大脑神经元的研究表明，当其处于兴奋状态时，输出侧的轴突就会发出脉冲信号，每个神经元的树状突起与来自其它神经元轴突的互相结合部(此结合部称为Synapse，即突触)接收由轴突传来的信号。如果—神经元所接收到的信号的总和超过了它本身的“阈值”，则该神经元就会处于兴奋状态，并向它后续连接的神经元发出脉冲信号。 1943年，心理学家W.S.McCulloch和W.Pitts根据上述研究发表了他们的神经元模型，通常称为MP模型。 1949年，D.O.Hebb提出了神经元的学习法则，即Hebb法则。直到现在也是重要的学习法则。 第二节 神经网络的发展史及研究现状 2．2 第一次神经网络研究高潮（1950~1968） 50年代末，F.Rosenblatt基于上述原理提出了一种模式识别机，即感知机(Perceptron)模型。 感知机是现代神经计算的出发点。Block于1962年用解析法证明了感知机的学习收敛定理。正是由于这一定理的存在，才使得感知机的理论具有实际的意义，并引发了60年代以感知机为代表的第一次神经网络研究发展的高潮。 M.Minsky和S.Papert进一步发展了感知机的理论，他们把感知机定义为一种逻辑函数的学习机。 1960年，B.Widraw在稍后于感知机一些时候提出了自适应线性单元Adaline分类学习机。它在结构上与感知机相似，但在学习法则上采用了最小二乘平均误差法。 第二节 神经网络的发展史及研究现状 1961年，E.R