SPSSAU_机器学习_神经网络.pdf

SPSSAU-在线SPSS分析软件

BP神经网络多层感知器MLP（Multi-LayerPerception）neuralnetworkSPSSAU

神经网络

Contents

1背景2

2理论2

3操作4

4SPSSAU输出结果5

5文字分析5

6剖析6

神经网络（neuralnetwork）是一种模拟人脑神经思维方式的数据模型，神经网络有多种，

包括BP神经网络、卷积神经网络，多层感知器MLP等，最为经典为神经网络为多层感知器

MLP（Multi-LayerPerception），SPSSAU默认使用该模型。类似其它的机器学习模型（比如决

策树、随机森林、支持向量机SVM等），神经网络模型构建时首先将数据分为训练集和测试

集，训练集用于训练模型，测试集用于测试模型的优劣，并且神经网络模型可用于特征重要性

识别、数据预测使用，也或者训练好模型用于部署工程使用等。

SPSSAU-在线SPSS分析软件

神经网络案例

Contents

1背景2

2理论2

3操作4

4SPSSAU输出结果5

5文字分析5

6剖析6

1背景

本部分神经网络使用的‘鸢尾花分类数据集’进行案例演示，其共为150个样本，包括4个

特征属性（4个自变量X），以及标签（因变量Y）为鸢尾花卉类别，共包括3个类别分别是刚

毛鸢尾花、变色鸢尾花和弗吉尼亚鸢尾花（下称A、B、C三类）。

2理论

神经网络的原理上，其可见下图。

原理上，首先输入特征项X，即放入的自变量项，神经网络模型时，可将特征项X构建出

‘伪特征’，比如输入的是性别、年龄、身高、体重等，其结合‘激活函数’构建出一些‘伪特

征项’（即事实不存在，完全由模型构建的特征项，并且是无法解释的特征项），具体构建上，

比如为线性激活函数时可直观理解为类似“y=1+2*x1+3*x2+4*x3+…”这样的函数）。并且构建

‘伪特征项’可有多个层次（即‘隐层神经元’可以有多层，默认是1层），并且每个层次可以

有多个神经元（默认是100）。最终由数学优化算法计算，得到输出，即预测项。

通俗上看，即输入特征项X，然后经过1轮或多轮的‘伪特征’构建，并且由算法最优求

解，得到输出项。结合神经网络的原理情况，其涉及以下参数，如下：

参数说明参数值设置

SPSSAU-在线SPSS分析软件

激活函数处理输入和输出时的映射函数identity:f(x)=x

logistics:f(x)=1/(1+exp(-x))

tanh:f(x)=tanh(x)

relu:f(x)=max(0,x)【默认】

权重优化方法神经网络的内部算法类型lbfgs:quasi-Newton牛顿法；

sgd:随机梯度下降法；

adam:机遇梯度下降法，在大数