机器学习与数据挖掘基础.pptxVIP

机器学习与数据挖掘根底;1.1机器学习的概念

心理学中对学习的解释是：学习是指〔人或动物〕依靠经验的获得而使行为持久变化的过程。

Simon认为：如果一个系统能够通过执行某种过程而改进它的性能，这就是学习。

Minsky认为：学习是在人们头脑中〔心理内部〕进行有用的变化。

TomM.Mitchell在《机器学习》一书中对学习的定义是：对于某类任务T和性能度P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么，我们称这个计算机程序从经验E中学习。

当前关于机器学习的许多文献中也大都认为：学习是系统积累经验以改善其自身性能的过程。;

总之：

①学习与经验有关；

②学习可以改善系统性能；

③学习是一个有反响的信息处理与控制过程。因为经验是在系统与环境的交互过程中产生的，而经验中应该包含系统输入、响应和效果等信息。因此经验的积累、性能的完善正是通过重复这一过程而实现的。;1.2机器学习系统的根本模型;1.2机器学习系统的根本模型;学习环节通过获得外部信息，并将这些信息与执行环节所反响回的信息进行比较。一般情况下环境提供的信息水平与执行环节所需的信息水平之间往往有差距，经分析、综合、类比、归纳等思维过程，学习环节就要从这些差距中获取相关对象的知识，并将这些知识存入知识库中。;知识库用于存放由学习环节所学到的知识。

影响学习系统设计的第二个因素是知识库的形式和内容。知识库的形式就是知识表示的形式〔一阶谓词逻辑、产生式规那么、框架、语义网络、类和对象、模糊集合、贝叶斯网络、脚本、过程等〕。选择知识表示方法要考虑以下准那么：可表达性、推理难度、可修改性和可扩充性。;执行环节是整个机器学习系统的核心。执行环节用于处理系统面临的现实问题，即应用知识库中所学到的知识求解问题，并对执行的效果进行评价，将评价的结果反响回学习环节，以便系统进一步的学习。;1.基于学习策略的分类

机械学习

传授学习

类比学习

归纳学习

基于解释的学习;机械学习;传授式学习;传授式学习;传授式学习;传授式学习;传授式学习;类比学习;归纳学习;归纳学习;归纳学习;归纳学习;归纳学习;基于解释的学习;基于解释的学习;2.基于学习方式的分类

〔1〕有导师学习〔监督学习〕：输入数据中有导师信号，以概率函数、代数函数或人工神经网络为基函数模型，采用迭代计算方法，学习结果为函数。

〔2〕无导师学习〔非监督学习〕：输入数据中无导师信号，采用聚类方法，学习结果为类别。典型的无导师学习有发现学习、聚类、竞争学习等。

〔3〕强化学习〔增强学习〕：以环境反响〔奖/惩信号〕作为输入，以统计和动态规划技术为指导的一种学习方法。;3.基于数据形式的分类

〔1〕结构化学习：以结构化数据为输入，以数值计算或符号推演为方法。典型的结构化学习有神经网络学习、统计学习、决策树学习、规那么学习。

〔2〕非结构化学习：以非结构化数据为输入，典型的非结构化学习有类比学习、案例学习、解释学习、文本挖掘、图像挖掘、Web挖掘等。;4.基于学习目标的分类

〔1〕概念学习：即学习的目标和结果为概念，或者说是为了获得概念的一种学习。典型的概念学习有例如学习。

〔2〕规那么学习：即学习的目标和结果为规那么，或者说是为了获得规那么的一种学习。典型的规那么学习有决策树学习。

〔3〕函数学习：即学习的目标和结果为规那么，或者说是为了获得函数的一种学习。典型的函数学习有神经网络学习。

〔4〕类别学习：即学习的目标和结果为对象类，或者说是为了获得类别的一种学习。典型的类别学习有聚类分析。

〔5〕贝叶斯网络学习：即学习的目标和结果是贝叶斯网络，或者说是为了获得贝叶斯网络的一种学习。其又可分为结构学习和参数学习。;2知识发现与数据挖掘;DataMining:AKDDProcess;StepsofaKDDProcess;数据挖掘功能;概念/类描述：特征化和区分;关联分析;分类和预测;聚类分析;三月10,2024;三月10,2024;三月10,2024;用决策树归纳分类;三月10,2024;三月10,2024;三月10,2024;属性选择度量;三月10,2024;决策树归纳的信息增益;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024;三月10,2024