神经网络2012.ppt

收敛性 g(p) = 1 + sin(?p), – 2 ? p ? 2 收敛的全局最小 收敛到局部极小 网络确实可以逼近给定的函数, 但学习算法没有收敛到使网络有良好逼近性能的网络参数. 即使反传算法收敛了, 我们也不能确保得到了一个最优解. 可以采用不同的初始条件多试几次, 以保证得到最优解. 人工神经网络简介 四川大学数学学院 黄丽 hl@scu.edu.cn 发展史 与人工神经网络有关的研究可以追溯到19世纪末或更早，但通常认为McCullch和Walter Pitts在20世纪40年代的工作是人工神经网络领域的开始。 初始发展时期 (1940-1960) 研究主流是仿生学结构主义, 其动机是要用硬件来模仿人脑的结构和功能. 典型工作: Warren McCulloch and Walter Pitts: M-P模型 Donald Hebb: Hebb learning rule (Hebb学习律) Frank Ronsenblatt: Perceptron(感知器) Bernald Widrow and Ted Hoff: adaptive linear neural networks(自适应线性神经网络), Widrow-Hoff learning rule(Widrow-Hoff学习律). 低谷时期 (1960-1980) 然而Rosenblatt和Widrow