《深度神经网络概述》1900字.docx

深度神经网络概述

1.1从感知机到多层感知机

神经网络最初模拟的生物神经元结构的模型是一个很简单的实现形式，对于若干个输入，每一个输入信号乘上权重，然后经过一个线性函数输出，这种“输入层输出层”的两层模型被称为感知机（Perceptron）[30]。但经过研究证明，感知机对一些基本的函数无法建模，例如异或函数[31]。

2006年，Hinton等[32]提出最初的DNN多层神经网络模型。由于这种结构不需要逐层去学习，通过端到端的学习也能够实现，且学到一定深度后，建模能力增强。架构由输入层、若干的隐藏层、输出层组成，隐层越多，模型深度越深，性能往往越好。

简单的神经网络，也称为多层感知机