数据挖掘与智能决策技术简介.pptVIP

根据加薪百分比、工作时长、法定节假日、及医疗保险三个属性来判断一个企业的福利状况(good或bad)。 对象 关系 网络 网络分析 强弱 路径 自我 小群体 缺失 角色 网络分析 神经网络 线性回归 Logistics回归 多层神经网络 细胞繁殖 3.2.2.6 神经网络算法 人工神经网（Artificial Neural Network，ANN）是20世纪80年代后期迅速发展起来的人工智能技术，它对噪声数据具有很高的承受能力，对未经训练的数据具有分类模拟的能力，因此在网站信息、生物信息和基因以及文本的数据挖掘等领域得到了越来越广泛的应用。在多种ANN模型中，反向传播（Back Propagation，BP）网络是应用最广的一种。 神经元 通过非线性函数n维的输入向量 x 被映射为变量 y mk - f weighted sum Input vector x output y Activation function weight vector w ? w0 w1 wn x0 x1 xn 神经网络的组成 输出节点 输入节点 隐层节点 输入矢量 输入矢量: xi wij 基本的BP网络由输入层、输出层和隐层组成。 神经网络的拓扑结构 神经网络训练之前，需要设计网络拓扑结构。设计网络拓扑的关键是，确定隐层的神经元个数及各神经元初始权值和阈值（偏差）。理论上讲，隐层的神经元数越多，逼近越精确。但实际上，隐层神经元数不宜过多；否则会极大加长训练时间，并造成网络容错能力下降。经训练后的神经网络若其准确性不能被接受，则必须重新进行拓扑设计或改用不同的初始权值和阈值（偏差）。 神经网络的训练 训练的终止条件 获得一组权重值，使得训练集中几乎所有样本都分类正确 训练步骤 利用随机值对权值进行初始化 将训练样本逐一地输入给神经网络，进行训练 对于每个神经元 将其所有的输入值进行线性求和计算得到总的输入 利用激励函数计算其输出值 计算误差 修正网络权值和阈值（偏差） BP神经网络 BP神经网络通过迭代处理一组训练样本，将各样本的网络预测与实际已知类标号进行比较实现学习训练，反向修改网络的权值，使得网络预测与实际类之间的误差平方最小。BP神经网络按照最优训练准则反复迭代，确定并不断调整神经网络结构，通过迭代修改，当误差收敛时学习过程终止。 因此，具有分类准确、收敛性好、动态性好和鲁棒性强等优点。 BP神经网络存在的问题 收敛速度问题 BP分类器最大的弱点是其训练速度非常缓慢，难以收敛。尤其是当网络的训练达到一定程度后，收敛更为缓慢。 局部极小点问题 BP算法采用的是梯度下降法，对一个复杂的网络而言，其误差曲面是一个高维空间中的曲面，其中分布着许多局部极小点，一旦陷入了局部极小点则算法很难逃离出来。 BP神经网络存在的问题 网络瘫痪问题 在训练过程中，权值可能变得很大，这会使神经元的网络输入变得更大，从而使得其激励函数的一阶导函数在此点上的取值很小。此时的训练步长会变得非常小，最终导致网络停止收敛，这种现象即是所谓的网络瘫痪现象。 关联规则挖掘实例 通过发现顾客放入其购物篮中不同商品之间的联系，分析顾客的购买习惯。通过了解哪些商品频繁地被顾客同时购买，这种关联的发现可以帮助零售商制定营销策略。例如，在同一次购物中，如果顾客购买牛奶的同时，也购买面包（和什么类型的面包）的可能性有多大？ 这种信息可以引导销售，可以帮助零售商有选择地经销和安排货架。例如，将牛奶和面包尽可能放近一些，可以进一步刺激一次去商店同时购买这些商品。 关联规则挖掘实例 购物篮关联分析实例图 3.3.1 基本概念 Customer buys diaper Customer buys both Customer buys beer “啤酒与尿布”的关联规则 For rule A ? C support = support({A ?C}) = 50% confidence = support({A ?C})/support({A}) = 66.6% For C ? A (50%, 100%) The Apriori principle: Any subset of a frequent itemset must be frequent Min. support 50% Min. confidence 50% 关联挖掘实例 3.5 数据挖掘的可视化 以可视化的方式展示数据挖掘获取的相关知识。例如： －散点图和盒图 (ob