浙江大学研究生《人工智能引论》课件-精选版.ppt

定义4.10（mass函数）称m：?(X)→ [0，1]是mass函数，若满足： （1）m(Ф) = 0 （2） mass函数是专家的一种评价或确认程度。 比如X={x1, x2, …, xn}是n中疾病，某专家认为某人得疾病x1的可能性为0.7，于是得到一个mass函数： 在证据理论中，mass函数对构造信任测度与似然测度中有着重要的作用。 * 定义4.11（必然性测度） 设X是有限集，称N：?(X) ? [0, 1]为必然性测度，若满足： (1) N(?) = 0, N(X) = 1; (2) N(A ? B) = N(A) ? N(B) 定义4.12（可能性测度） 设X是有限集，称?：?(X) ? [0, 1]为可能性测度，若满足： (1) ?(?) = 0, ?(X) = 1; (2) ?(A ? B) = ?(A) ? ?(B) 【注】：可证明必然测度与可能性测度都是模糊测度。它们是Zadel提出的可能性理论的最基础概念。 * 概率测度 必然测度 可能测度 信任测度 似然测度 模糊测度 各种模糊测度之间的关系示意图 4.4.2 模糊测度各类之间的关系 * 模糊测度各类之间的关系（续） 模糊测度是一大类测度，它除了有界性条件外，只要求测度满足单调性，即当A?B时，有M(A) ? M(B)。上述各类模糊测度之间的关系如下： 必然性测度一定是信任测度 可能性测度一定是似然测度 概率测度是信任测度与似然测度的交集 …… * 4.5 不确定性的其它度量方法 1、不协调度 定义4.17 (不协调度) 设m是X上的mass函数，L为由m生成的似然测度，即 称 为[X, m]的不协调度。 * 若m是X上的概率分布，即 这时信任测度与似然测度均为概率测度，于是 显然，这时的不协调度与香农信息量（即信息熵）一致。此时的不协调度就是不确定度。 不协调度（续） * 2、混淆度 定义4.18 (混淆度) 设m是X上的mass函数，B为由m生成的信任测度，即 称 为[X, m]的混淆度。其中，? = {A | m(A) 0} 。 【注】：与不协调度相似，当m是概率分布时，混淆度即为不确定度（香农信息熵）。 * 3、信息量 一个概念是内涵与外延的统一体。内涵的多少表示了信息量的大小，但是内涵一般是无法度量的。由于内涵与外延是某种相反关系，我们可用外延补集作为信息，用外延补集的测度作为信息量。于是就得到如下信息量的概念。 定义4.19 (信息量) 设X是有限集，包含n个元素。P是X上的概率分布，称 是[X, P]的信息量。其中， * 在不确定性推理过程中，经常遇到两类问题： (1) 匹配（检索）问题，需要相似度的概念； (2) 推理规则的条件与结论之间的蕴涵关系，就需要蕴涵度的概念。 经专家研究发现，相似度与蕴涵度的共性即为包含度。 【注】：本课件只简要介绍上述三个概念的定义，有关包含度理论的详细论述请参见文献： 张文修、梁怡《不确定性推理原理》，西安交通大学出版社，1996。 补充说明： * 4、包含度 设X是一个普通集合，?(X)表示X中所有子集的全体，?(X)表示X中模糊集合的全体。 定义4.19 (包含度)：设?0(X)??(X) ，对?A, B? ?0(X) 有数D(B/A)对应，且满足： (1) 0 = D(B/A) = 1 ? (2) 对?A, B? ?0(X), A ? B时，有D(B/A) = 1 ?(3) 对A, B, C? ?0(X), A ? B ? C时，有 D(A/C) ? D(A/B) 称D为 ?0(X)上的包含度。 【注】：关于包含度的数学原理 请详见张文修《不确定性推理原理》。 B A C X * 4.6.1 Shannon信息论 ? 信息论的创立 1948年Shannon首次提出 以数学方法度量并研究通信信号 ? 信息论对不确定性推理的作用 为不确定性知识的度量提供理论依据 用信息熵来衡量不确定性程度的高低 在决策树等方法中发挥重要作用 4.6 信息论及其在决策树中的应用 * 4.6.2 信息论中的基本概念 定义4.13（自信息量） 在收到ai之前，收信者对信源发出ai的不确定性定义为信息符号ai的自信息量I(ai)。即 其中，p(ai)为信源发出ai的概率，为表达简便起见，本课件的对数lg均以2为底。 【说明】: （1）自信息量只能反映符号的不确定性。 （2）有的文献采用以10 或e为底的对数，但是