数据挖掘基础及其应用 课件 第6章 分类Ⅲ概率分类与回归.pptx

第6章 分类Ⅲ:概率分类与回归;6.1 引 言;　　(3)NP 难问题:学习一个最优决策树是 NP 难问题。　　(4)一些概念是很难理解的:比如异或校验或复用的问题。　　(5)准确性得不到保障。　　决策树算法的缺陷如图6-1所示。;;　　若要有效地避免决策树算法带来的缺陷,则需要构建全新的算法。通过提供图形化的方法来表示和运算概率知识,贝叶斯网络克服了基于规则的系统在概念和计算上的困难。贝叶斯网络与统计方法相结合,使得其在数据分析方面拥有了许多优点,具体如下:　　(1)图形方法描述数据间的相互关系,语义清晰,易于理解。　　(2)易于处理不完备数据集。　　(3)允许学习变量间的因果关系。　　(4)充分利用领域知识和样本数据的信息。;6.2 贝 叶 斯 公 式;　　定义 6.1(条件概率) 设A,B 是两个基本事件,且P(A)0,则称为事件A 发生的条件下事件B 发生的条件概率。;　　定义6.2(先验概率) 设B1,B2,…,Bn 为样本空间S 中的事件,P(Bi)可根据以前的数据分析得到,或根据先验知识估计获取,称P(Bi)为先验概率。　　先验概率是根据历史资料或主观判断所确定的各种事件发生的概率,该概率没有经过实验证实,属于检验前的概率。先验概率一般分为两类:一类是客观先验概率,是指利用过去的历史资料计算得到的概率;另一类是主观先验概率,是指