第6章 信息加工与信息决策 信息相关管理原理与方法(第2版）.ppt

6.1 信息加工 6.1.1 信息加工的内涵 6.1.2 信息加工的方法 6.1.3 决策树方法 6.2 信息决策概述 6.2.1 决策对信息质量的要求 6.2.2 决策的过程 6.2.3 有效决策的障碍 6.3 信息决策准则 6.3.1 不确定性情况下的决策准则 6.3.2 风险情况下的决策准则 第6章 信息加工与信息决策 （1）理解信息加工的基本概念和基本方法； （2）理解和掌握决策树分析方法； （3）理解信息决策的基本过程； （5）理解不确定性情况下和风险情况下的信息决策准则。 [学习目标] 6.1.1 信息加工的内涵 信息加工是对收集来的信息进行去伪存真、去粗取精、由表及里、由此及彼的加工过程。 这一过程将使信息增值。 要进行信息加工，首先要进行需求分析。需求分析要考虑的问题： （1）问题研究：解决此问题需要哪些信息、使用什么样的方法、采用什 么样的形式来表达处理结果等。 （2）人机分工：哪些工作由机器处理比较方便，哪些工作留给人做更合 适。 （3）评价标准：对加工结果进行解释，并确定如何衡 量信息加工的结 果。 6.1 信息加工 6.1.2 信息加工的方法 信息加工方法 统计学习方法 ?相关分析 ?回归分析 ?主成分分析 ?聚类分析 ?时间序列分析 ?判别分析 机器学习方法 ?规则归纳 ?案例学习方法 ?遗传算法 ?免疫算法 ?蚁群算法 ?决策树方法 不确定性理论 ?贝叶斯网络 ?模糊逻辑 ?粗糙集理论 ?证据理论 ?灰色理论 ?可拓理论 数据库/数据仓库技术 ?面向数据集方法 ?面向属性归纳 ?数据库统计 ?数据挖掘技术 ?数据仓库技术 ?联机分析技术 可视化 技术 6.1 信息加工 6.1.3 决策树方法 1．决策树的概念 决策树具有类似流程图的树结构。它是用样本的属性作为节点，用属性的取值作为分支的树结构。 决策树的根节点是所有样本中信息量最大的属性。 树的中间节点为根的子树所包含的样本子集中信息量最大的属性。 决策树的叶节点是样本的类别值。 如果每个内节点都恰好有两个分枝，则称为二叉树。如果内节点有多于两个的分枝，则称为多叉树。从根节点到每个叶节点的路径称为“决策规则”。 决策树可用于对新样本的分类，即通过决策树对新样本属性值进行测试，从树的根节点开始，按照样本属性的取值，逐渐沿着决策树向下，直到树的叶节点，该叶节点表示的类别就是新样本的类别，也能有效地识别新样本的类别。 6.1 信息加工 No. 属性 类别 天气 气温 湿度 风 1 晴 热 高 无风 N 2 晴 热 高 有风 N 3 多云 热 高 无风 P 4 雨 适中 高 无风 P 5 雨 冷 正常 无风 P 6 雨 冷 正常 有风 N 7 多云 冷 正常 有风 P 8 晴 适中 高 无风 N 9 晴 冷 正常 无风 P 10 雨 适中 正常 无风 P 11 晴 适中 正常 有风 P 12 多云 适中 高 有风 P 13 多云 冷 正常 无风 P 14 雨 适中 高 有风 N 天气训练集： 6.1 信息加工 由算法得出一棵正确分类训练集中每个实体的决策树，如右图所示。 决策树的叶子为类别名，即P或者N。其他节点由实体的属性组成，每个属性的不同取值对应一分枝。 若要对一实体分类，从树根开始进行测试，按属性的取值分枝向下进入下层节点，对该节点进行测试，过程一直进行到叶节点，实体被判为属于该叶节点所标记的类别。 ID3就是从训练集构造出的决策树。 右图所示的ID3决策树得到该实体的类别为P类。 6.1 信息加工 ID3主算法的具体步骤： （1）从训练集中随机选择一个既含正例又含反例的子集（称为“窗 口”）； （2）用“建树算法”对当前窗口形成一棵决策树； （3）对训练集（窗口除外）中的例子用所得决策树进行类别判定，找出 错判的例子； （4）若存在错判的例子，把它们插入窗口，重复步骤(2)，否则结束。 6.1 信息加工 ID3 主算法流程： 训练集 PE、NE 取子集 建窗口 窗口 PE1、NE1 生成 决策树 测试 PE、NE 扩展窗口 PE1= PE1+ PE2，NE1= NE1+ NE2 此决策树为 最后结果 存在错判的 PE2、NE2吗？ 是 否 6.1 信息加工 ID3建树算法的具体步骤： （1）对当前例子集合，计算各特征的互信息； （2）选择互信息最大的属性Ak； （3）把在Ak 处取值相同的例子归于同一子集，Ak 取几个值就得几个子集； （4）对既含正例又含反例的子集，递归调用建树算法; （5）若子集仅有正例或反例，对应分枝标上P或N，返回调用处。 6.1 信息加工 3．ID3方法应用实例