精品课件 第二章 教育信息熵.pptVIP

第二章 教育信息熵 第一节 熵的概述 信息量的表示 信息熵 熵的意义 信息熵的基本性质 信息量的表示 (2-1) 来定义信息量。这是一种以2为底的对数，其单位为字位（bit）。 信息熵 信息熵，简称为熵(entropy) 熵的意义 熵的大小可用于表示概率系统的不确定程度。 信息熵的基本性质 1.单峰性 2.对称性 3.渐化性 4.展开性 5.确定性 第二节 相对熵与冗余度 相对熵 冗余度 相对熵 信息熵的计算于系统中事件数的多少有关，它不利于我们对不同系统的熵进行比较。相对信息熵的计算有利于我们对不同系统的信息熵进行比较。 冗余度 冗余度表示了由于每种字符出现的概率不同而使信息熵减少的程度。 第三节 熵函数的展开 联合熵 条件熵 联合熵 称基于两个概率系统联合概率分布的熵为联合熵。 条件熵 在事件s产生的情况下，另一种事件t产生的概率以条件概率所表示。 第四节 测试问题的信息量 测试问题信息熵的计算 等价预选项数 对不确定程度的判断 第五节 教学过程的信息量分析 分类系统 类别总数与熵 不同学科类别频度分布的比较 第六节 教育中质的数据信息量分析 交叉表 互信息量 第七节 CAI课件中的信息熵 多重选择问题的信息熵 课件评价 学习状态的描述 第八节 CAI课件中的信息熵 多重选择问题的信息熵 课件评价 学习状态的描述 * * *