基于神经网络的数据挖掘研究概论.ppt

1 神经网络基本概念 2 前馈神经网络 3 反馈网络模型Hopfield网络 4 数据挖掘技术 5 基于神经网络的数据挖掘研究;1 神经网络基本概念;生物神经元的工作机制;1.2 人工神经元;神经元的动作： ;1.3 神经网络的学习;神经网络学习方式---监督学习;神经网络学习方式---无监督、自组织学习;1.4 神经网络的结构分类;2 前馈神经网络;设输入模式向量， ，共M类。;M类问题判决规则( 神经元的输出函数) 为;设第k次输入的模式向量为Xk，与第j个神经元相连的权向量为;2.2 BP网络;学习过程分为两个阶段： 第一阶段（正向传播过程）：给出输入信息通过输入层经各隐层 逐层处理并计算每个单元的实际输出值 第二阶段（反向传播过程）：若在输出层未能得到期望的输出值， 则逐层递归地计算实际输出与期望输出之间的差值（即误差）， 通过梯度下降法来修改权值，使得总误差函数达到最小。 ;BP算法的学习过程 ;S型输出函数：; 对输入模式Xp，若输出层中第k个神经元的期望输出为 dpk，实际输出为ypk。输出层的输出方差 ：;令 ，可得;BP算法步骤：;;BP算法存在问题：; 2.3 RBF神经网络 径向基函数(R