【2019年整理】神经网络论文.pdfVIP

摘要

神经网络是一门发展十分迅速的交叉学科，它是由大量的处理单元组成非线

性的大规模自适应动力系统。神经网络具有分布式存储、并行处理、高容错能力

以及良好的自学习、自适应、联想等特点。目前已经提出了多种训练算法和网络

模型，其中应用最广泛的是前馈型神经网络。前馈型神经网络训练中使用最多的

方法是误差反向传播(BP)学习算法。但随着使用的广泛，人们发现BP网络存在

收敛速度缓慢、易陷入局部极小等缺陷。于是我们就可以分析其产生问题的原因，

从收敛速度和局部极小两个方面分别提出改进的BP网络训练方法。

关键字：神经网络，收敛速度，局部极小，BP网络，改进方法

Abstract

Neuralnetworkiacrodisciplinewhichnowdevelopingveryrapidly,itisthe

nonlinearityadaptivepowersystemwhichmadeupbyabundantoftheproceing

units.Theneuralnetworkhasfeaturessuchasdistributedstorage,parallelproceing,

hightoleranceandgoodself-learning,adaptive,aociate,etc.Currentlyvariou

trainingalgorithmandnetworkmodelhavebeenproposed,whichthemostwidely

usedtypeisFeedforwardneuralnetworkmodel.Feedforwardneuralnetworktraining

typeusedinmostofthemethodisback-propagation(BP)algorithm.Butwiththeuse

ofBPnetwork,peoplefindthattheconvergencespeedisslow,andeasyfallintothe

localminimum.Sowecananalyzethecauseofproblems,fromthetwoaspect

respectivelywecanimprovetheBPtrainingmethodsofneuralnetwork.

Keywords：neuralnetwork，convergencespeed，localminimum，BPneuralnetwork

improvingmethod

目录

1神经网络概述.3

1.1生物神经元模型错误！未定义书签。

1.2人工神经元模型错误！未定义书签。

2BP神经网络错误！未定义书签。

2.1BP神经网络特点错误！未定义书签。

2.2BP神经网络介绍错误！未定义书签。

3BP神经网络算法的改进8

3.1BP神经网络训练过程介绍8

3.2动态调节学习率的改进方法8

3.3BP神经网络收敛速度的改进方法.10

3.4局部极小问题的几种改进方案11

4结束语…………………..….…………13

【参考文献】.14

1.神经网络概述

1.1生物神经元模型

人脑是由大量的神经细胞组合而成