机器学习与知识发现.ppt

图9-18BP网络举例第94页,共122页，星期六，2024年，5月用样本数据按BP算法对该网络进行训练,训练结束后,网络就可作为一种模式分类器使用。因为网络的输出向量(1,0,0)、(0,1,0)、(0,0,1)可以表示多种模式或状态。如可以分别表示凸、凹和直三种曲线,或者三种笔划,也可以表示某公司的销售情况：高峰、低谷和持平等等。当然,要使网络有很好的模式分类能力,必须给以足够多的样例使其学习,本例仅是一个简单的示例。第95页,共122页，星期六，2024年，5月9.3.6神经网络模型神经网络模型是一个在神经网络研究和应用中经常提到的概念。所谓神经网络模型,它是关于一个神经网络的综合描述和整体概念,包括网络的拓扑结构、输入输出信号类型、信息传递方式、神经元特性函数、学习方式、学习算法等等。截止目前,人们已经提出了上百种神经网络模型,表9.4简介了最著名的几种。第96页,共122页，星期六，2024年，5月表9.4一些著名的神经网络模型第97页,共122页，星期六，2024年，5月1.按学习方式分类神经网络的学习方式包括三种:有导师学习、强化学习和无导师学习。按学习方式进行神经网络模型分类时,可以分为相应的三种,即有导师学习网络、强化学习网络及无导师学习网络。第98页,共122页，星期六，2024年，5月2.按网络结构分类神经网络的连接结构分为两大类,分层结构与互连结构,分层结构网络有明显的层次,信息的流向由输入层到输出层,因此构成一大类网络,即前向网络。对于互连型结构网络,没有明显的层次,任意两处理单元之间都是可达的,具有输出单元到隐单元(或输入单元)的反馈连接,这样就形成另一类网络,称之为反馈网络。第99页,共122页，星期六，2024年，5月3.按网络的状态分类在神经网络模型中,处理单元(即神经元)的状态有两种形式：连续时间变化状态、离散时间变化状态。如果神经网络模型的所有处理单元状态能在某一区间连续取值,这样的网络称为连续型网络；如果神经网络模型的所有处理单元状态只能取离散的二进制值0或1(或-1、+1),那么称这种网络为离散型网络。典型的Hopfield网络同时具有这两类网络,分别称为连续型Hopfield网络和离散型Hopfield网络。另外,还有输出为二进制值0或1、输入为连续值的神经网络模型,如柯西机模型。第100页,共122页，星期六，2024年，5月4.按网络的活动方式分类确定神经网络处理单元的状态取值有两种活动方式:一种是由确定性输入经确定性作用函数,产生确定性的输出状态；另一种是由随机输入或随机性作用函数,产生遵从一定概率分布的随机输出状态。具有前一种活动方式的神经网络,称为确定性网络。已有的大部分神经网络模型均属此类。而后一种活动方式的神经网络,称为随机性网络。随机性网络的典型例子有：波尔茨曼机、柯西机和高斯机等。第101页,共122页，星期六，2024年，5月9.4知识发现与数据挖掘9.4.1知识发现的一般过程1.数据准备数据准备又可分为三个子步骤:数据选取、数据预处理和数据变换。数据选取就是确定目标数据,即操作对象,它是根据用户的需要从原始数据库中抽取的一组数据。数据预处理一般可能包括消除噪声、推导计算缺值数据、消除重复记录、完成数据类型转换等。当数据开采的对象是数据仓库时,一般来说,数据预处理已经在生成数据仓库时完成了。数据变换的主要目的是消减数据维数,即从初始特征中找出真正有用的特征以减少数据开采时要考虑的特征或变量个数。第102页,共122页，星期六，2024年，5月2.数据挖掘数据挖掘阶段首先要确定开采的任务或目的是什么,如数据总结、分类、聚类、关联规则或序列模式等。确定了开采任务后,就要决定使用什么样的开采算法。同样的任务可以用不同的算法来实现,选择实现算法有两个考虑因素:一是不同的数据有不同的特点,因此需要用与之相关的算法来开采;二是用户或实际运行系统的要求,有的用户可能希望获取描述型的、容易理解的知识,而有的用户或系统的目的是获取预测准确度尽可能高的预测型知识。第103页,共122页，星期六，2024年，5月3.解释和评价数据挖掘阶段发现出来的知识模式中可能存在冗余或无关的模式,所以还要经过用户或机器的评价。若发现所得模式不满足用户要求,则需要退回到发现阶段之前,如重新选取数据,采用新的数据变换方法,设定新的数据挖掘参数值,