第1章神經网络1-BP网络1(n).docVIP

第一章 前传网络 12 1.1 线性感知器 12 1.1.1 概述 12 1.1.2 线性感知器 13 1.2 BP网络 17 1.3 BP网络的应用 23 1.3.1 手写ZIP码识别 23 1.3.2 图像压缩 24 1.3.3 股票预测 25 第一章 前传网络 1.1 线性感知器 1.1.1 概述 图1.1给出了一个简单的单层前传网络（神经元）的示意图。它也是许多更复杂的神经网络的基本构件之一。神经元对外界传入的个信号经权值向量处理后，用线性求和器得到“综合印象”，再由活化函数对此综合印象作出非线性反应。这种反应机制是对真正的生物神经元反应机制的一种简单而又常常有效的模拟。将大量简单神经元按某种方式连接起来，并通过某种学习过程确定单元之间的连接强度（权值），就得到各种人工神经网络，用来完成逼近、分类、预测、控制和模拟等各种任务。 图1.1 神经元模型 设给定J个输入样本模式, 其中,以及理想输出。另外，给定一个非线性函数。单层前传网络（神经元）的学习过程就是利用样本模式，通过某种学习算法来选择权向量和阈值，使得 (1.1.1) 其中为网络的实际输出。 然后，我们就可以向网络输入中其它模式向量, 得到相应输出，这就是神经网络的工作过程。 (1.1.1)中的函数称为活化函数，常见的有符号函数及其逼近、型函数（Sigmoid函