推荐人工神经网络教程人工神经发展简史.doc

人工神经发展简史 1.启蒙时期 1890年，William James发表了《心理学原理》。 1943年，生理学家W.S.McCuloch和数学家W.A.PiHs提出M-P模型。 1949年，心理学家Hebb出版《行为构成》，建立了Hebb算法(连接权训练算法)主要有四点贡献：①信息存储在连接权中；② 1958年，计算机科学家Frank Rosenblatt提出了具有3层网络特性的神经结构网络。 1960年，电机工程师Bernard Widrow和Mareian Hoff提出”Adaline”模型，实现了人工神经硬件。Widrow-Hoff算法也称为δ算法，最小均方(LMS)算法，梯度下降法。 2.低潮时期 1969年，人工智能创始人M.Minsky和S.Papert发表《感知器》，给人工智能泼了一盆冷水。 1969年，S.Grossberg教授和她的夫人G.A.Carpenter提出来著名的自适应共振理论(Adaptive Resonance Theory)模型，其中的基本观点是：若在全部神经节点中有一个神经节点特别兴奋，其周围的所有节点将受到抑制。Grossberg还提出短期记忆和长期记忆的机理，节点的激活值和连接权都会随时间 ，前者代表短期记忆，衰减得快，后者代表长期记忆，衰减得慢。其后他们发表了ART1，ART2，ART3三个版本，ART1网络只能处理二值的输入，ART2能处理模拟量输入。 1972年，芬兰的T.Kohonen教授提出了自组织映射(SOM)理论，以及联想存储器(Associated Memory)。美国的神经生理学家和心理学家J.Anderson提出了交互存储器(Interactive Memory)。 1980，日本东京的福岛邦彦发表了“新认知机”(Neocognitron)。 3.复兴时期 1982年，美国加州理工学院的优秀物理学家John.J.Hopfield总结和吸纳了前人的经验，塑造出一种新颖的强有力的模型，成为Hopfield网络，此网络有个优点，与电子电路有明显的对应关系，易于用集成电路实现。 G.E.Hinton和T.J.Sejnowski借助统计物理学的概念和方法提出了一种随机神经网络模型—玻尔兹曼(Blotzmann)机。 1986年，贝尔实验室宣布制成神经网络芯片不久，美国的David.E.Rnmelhart和James L.McCelland及其领导的研究小组发表了《并行分布式处理》(Parallel Distributed Processing)一书的前两卷，接着1988年发表带有软件的第三卷，书中涉及到了三个主要特征：结构、神经元的传递函数(也称传输函数、转移函数、激励函数)和它的学习训练方法。这部书发展了多层感知器的反向传播训练算法，把学习的结果反馈到中间层次的隐节点，改变其权值，以达到预期的学习目的。 4.新时期 1987年6月，首届国际神经网络学术会议在加州圣地亚哥召开，成立了国际神经网络学会(International Neural Network Sociaty,INNS)。 不久，美国波士顿大学的Stephen Grossberg教授，芬兰赫尔辛基技术大学的Gteuvo Kohonen教授和日本东京大学的甘利俊一(Shunichi Amuri)教授—主持创办了世界第一份神经网络杂志《Neural Network》。 神经元模型 传递函数 以下为赠品希望君一生平安 ( 低调做人，你会一次比一次稳健；高调做事，你会一次比一次优秀 ( 一、在姿态上要低调 ??? 在低调中修炼自己：低调做人无论在官场、商场还是政治军事斗争中都是一种进可攻、退可守，看似平淡，实则高深的处世谋略。 ??? 谦卑处世人常在：谦卑是一种智慧，是为人处世的黄金法则，懂得谦卑的人，必将得到人们的尊重，受到世人的敬仰。 ??? 大智若愚，实乃养晦之术：“大智若愚”，重在一个“若”字，“若”设计了巨大的假象与骗局，掩饰了真实的野心、权欲、才华、声望、感情。这种甘为愚钝、甘当弱者的低调做人术，实际上是精于算计的隐蔽，它鼓励人们不求争先、不露真相，让自己明明白白过一生。 ?? 平和待人留余地：“道有道法，行有行规”，做人也不例外，用平和的心态去对待人事事，也是符合客观要求的，因为低调做人才是跨进成功之门的钥匙。 ??? 时机未成熟时，要挺住：人非圣贤，谁都无法甩掉七情六欲，离不开柴米油盐，即使遁入空门，“跳出三界外，不在五行中”，也要“出家人以宽大为怀，善哉！善哉！”不离口。所以，要成就大业，就得分清轻重缓急，大小远近，该舍的就得忍痛割爱，该忍的就得?? 从长计议，从而实现理想，成就大事，创建大业。 ??? 毛羽不丰时，要懂得让步：低调做人，往往是赢取对手的资助、最后不断走向强盛、伸展势力再反过来使对手屈服