神经网络算法06631.pptVIP

算法发展历史 1943年，心理学家McCulloch和数学家Pitts参考了生物神经元的结构，发表了抽象的神经元模型MP. 1949年，心理学家Hebb提出了Hebb学习率，认为人脑神经细胞的突触（也就是连接）上的强度上可以变化的。 1958年，计算科学家Rosenblatt提出了由两层神经元组成的神经网络。 1969年， Minsky出版了一本叫《Perceptron》的书，里面用详细的数学证明了感知器的弱点，尤其是感知器对XOR（异或）这样的简单分类任务都无法解决。 1986年，Rumelhar和Hinton等人提出了反向传播（Backpropagation，BP）算法，解决了两层神经网络所需要的复杂计算量问题。 2006年，Hinton在《Science》和相关期刊上发表了论文，首次提出了“深度信念网络”的概念。 MP模型 权重是已知的，不能进行学习，只能处理简单的线性问题。 两层神经元网络 两层神经元网络，又称感受器，起初得到热捧。 感知器的作用和缺陷 感受器可以方便地处理线性问题，但是无法有效解决与或非问题 BP神经网络 虽然增加层数能够解决与或非问题，但是计算量是一个巨大的问题。向后计算法（BP）的出现，解决了计算量的问题，使神经网络算法得到了推广。 BP模型对数据的处理结果 但是BP模型计算时间太长受到了诟病，很快被支持向量机取代。 多层神经网络 首先，