神经网络介绍机器学习53课件讲解.pptxVIP

机器学习徐国清神经网络介绍河南工业职业技术学院

神经网络介绍神经网络（NeuralNetworks）能在外界信息的基础上改变内部结构，是一个具备学习功能的自适应系统。和其他机器学习方法一样，神经网络已经被用于解决各种各样的问题，例如机器视觉和语音识别。神经网络是由具有适应性的简单单元组成的广泛并行互连网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。

这里定义的“简单单元”，是指一个神经元模型，它是神经网络中最基本的成分。在生物神经网络中，每个神经元与其他神经元相连，当它“兴奋”时，就会向相连的神经元发送化学物质，从而改变这些神经元内的电位；如果神经元电位超过了某个“阈值”，那么它就会被激活，即“兴奋”起来，向其他神经元发送化学物质。神经网络介绍

神经网络介绍将神经元模型表示成一个数学模型，如下图所示。在这个模型中，神经元接收来自n个其他神经元传递过来的输入信号，用表示；这些输入信号通过带权重的连接进行传递，权重用 表示；神经元接收的总输入值将与阈值进行比较，然后通过“激活函数”（activationfunction）处理输入的内容以产生神经元的输出，最终神经元的输出为

神经网络介绍Sigmoid函数，如下。把多个神经元按一定的层次结构连接起来，就得到神经网络。更一般的，常见的神经网络是如右图所示的层级结构，每层神经元与下一层的神经元全部互连，神经元之间不存在同层连接，也不存在跨层连接。

神经网络介绍上图的网络结构称为多层前馈神经网络，其中输入层神经元对信号进行接受，最终输出结果由输出层神经元输出。神经网络的学习过程，就是根据训练数据来调整神经元之间的连接权重以及每个神经元的阈值，神经网络“学”到的信息，蕴涵在连接权和阈值中。值得注意的是，如果单隐层网络不能满足实际生产需求，可在网络中设置多个隐层。

BP神经网络训练多层神经网络一般采用误差逆传播（errorBackPropagation，简称BP）算法，通常说的“BP神经网络”，是指用BP算法训练的多层前馈网络。给定训练集，输入样本有d个属性描述，输出s维向量。可构建一个单隐层的神经网络，如右图所示。

BP神经网络sklearn.neural_network.MLPClassifier(hidden_layer_sizes=(100,),activation=’relu’,solver=’adam’,alpha=0.0001,batch_size=’auto’,learning_rate=’constant’,learning_rate_init=0.001,power_t=0.5,max_iter=200,shuffle=True,random_state=None,tol=0.0001,verbose=False,warm_start=False,momentum=0.9,nesterovs_momentum=True,early_stopping=False,validation_fraction=0.1,beta_1=0.9,beta_2=0.999,epsilon=1e-08,n_iter_no_change=10)使用scikit-learn库中neural_network模块的MLPClassifier类可以建立多层感知器模型，其语法格式如下。

BP神经网络MLPClassifier类常用的参数及其说明如表所示。参数名称说明hidden_layer_sizes接收tuple。表示隐层结构，其长度表示隐层层数，元素表示每一个隐层的神经元个数。activation接收str。表示激活函数，可选参数有以下4种。（1）identity：恒等函数，（2）logistics：Sigmooid函数，（3）tanh：tanh函数，（4）relu：relu函数，默认为relu

BP神经网络参数名称说明solver接收str。表示优化算法的类型，可选参数有以下3种（1）lbfgs：一种拟牛顿法（2）sgd：随机梯度下降法（3）adam：基于随机梯度的优化器，在大规模数据集上效果较好默认为adamalpha接收float。表示正则化系数。默认为0.0001max_iter接收int。表示最大迭代次数。默认为200tol接收float。表示优化过程的收敛性阈值。默认为0.0001

机器学习徐国清神经网络介绍河南工业职业技术学院