神经网络报告..docxVIP

神经网络报告信计12 徐文豪模拟人大脑的运作方式建立模型去解决实际问题，提出第一个人工神经元模型的McCulloch和Pitts真是天才。神经网络发展到现在功能已经非常强大，在模式识别、回归拟合和优化等方面都有着广泛的应用。这篇报告较全面地介绍了几个神经网络分支的应用，但由于时间关系，实现主要是调用matlab库和台湾林智仁教授的libsvm，只有极少部分是自己的思路，这是一个遗憾，因为要深刻理解神经网络应该要实现理论的算法而不是熟悉调用方式。1.多层前向网络字符识别Matlab中prprob用26个35维的向量存储了26个英文字母的形状信息(将每个字母看成的二值矩阵)，字符识别所要解决的问题就是当这些字母向量加了一定的噪声之后，怎么判断加噪向量原本属于哪个字母。1.1 多层前向网络简介简单来说多层前向网络可以用一个等式表示 其中表示第层的输出，表示第层相对于第层的权系数矩阵，表示第层的阈值向量，表示第层的激活函数。从等式（1）可以看出，只要确定了各层的权系数矩阵和阈值向量，则整个多层前向网络就确定了。因而，所谓用样本数据训练网络就是根据学习算法用样本输入输出确定和。普遍使用的多层前向网络学习算法是由于1986年提出的反向传播算法(Back Propagation Algorithm)，即BP算法。为了便于算法的叙述，先假设网络层数为，即输入层为0层，输出层为层，并定义第层相对于的