一二土地信息学.pptVIP

地图数据处理模型的原理与方法 地图数据处理模型的原理与方法 数字地图制图标准化 地理信息的自动综合 专题地图的自动生成 地理信息的空间分析 §1-2地图制图数据处理模型的应用 §2-3 信 息 论 基 础 （6）熵的可加性 如果某一事件A是由n个互不相容事件A1，A2，…，An所组成的完备事件 A= A1+A2+…+An 假设An事件是由An1， An2，…， Anm所组成的完备事件，则有 H(A)′=H(A)+p(An)H(An) 这就是熵的可加性。事件的新熵等于原熵加上某一事件概率乘以某一事件熵。 §2-3 信 息 论 基 础 4．连续随机变量的熵 连续变量总是可以用离散变量来逼近的，根据前式有连续随机变量的熵函数: 对于正态分布随机变量，它的密度函数为： 正态分布的熵与数学期望无关，只与方差有关。 §2-3 信 息 论 基 础 5．多维熵 由两个或两个以上随机变量组成的熵称为多维熵。设有两个离散随机变量 X=(x1，x2，…，xn) Y=(y1，y2，…，ym) 则有联合熵 对于连续随机变量有 可以推广到两个以上随机变量的熵。 多维熵有基本特性 H（X，Y）≤H（X）+H（Y） §2-3 信 息 论 基 础 6．条件熵 两个随机变量的条件熵为 根据概率乘法定理 P(X/Y)=p(X/Y)p(Y)=p(Y/X)p(X) 有 同样可以有 条件熵的基本性质 二、信息量 1．信息量的定义 信息量是不肯定程度减小的量。包含在Y变量中关于X变量的信息量为 Ix(Y)=H(Y)-H(Y/X) 还可以写成 Ix(Y)=H(Y)+H(X)-H(X,Y) 2．信息量的特性 （1）信息量的非负性 因为 H(Y)≥H(Y/X) 所以 Ix(Y)=H(Y)-H(Y/X) ≥0 §2-3 信 息 论 基 础 （2）Ix(Y) =Iy(X) 由于 Ix(Y)= H(Y)-H(Y/X)=H(Y)+H(X)-H(X,Y) Iy(X)= H(X)-H(X/Y)=H(X)+H(Y)-H(X,Y) 所以 Ix(Y) =Iy(X) 这表明X中包含Y的信息量和Y中包含X的信息量相等。 （3）当X与Y相互独立，信息 Ix(Y) =Iy(X)=0 当X与Y相互独立时，有 H(X/Y)=H(X) H(Y/X)=H(Y) 信息 Ix(Y) =H(Y)-H(Y/X)=H(Y)-H(Y)=0 Iy(X)= H(X)-H(X/Y)=H(X)-H(X)=0 §2-3 信 息 论 基 础 3．地图上用熵表示信息量 信息量是不肯定程度减小的量，可通过熵来确定。在地图制图数据处理中，一般都假设地图信息能被人们全部接受，此时，地图要素不肯定程度减小的量就是地图要素的熵，从这个意义来讲，可以直接用熵表示信息量。 §2-3 信 息 论 基 础 4．信息与相关 根据前式有 §2-3 信 息 论 基 础 对于条件熵有 所以 式中，r是两个随机变量X和Y的相关系数。 §2-3 信 息 论 基 础 三、信息论的几个重要概念 1．最大熵 在等概率情况下，熵函数的值最大。这时的熵称为最大熵，根据前式有最大熵 Hmax=logn 2．相对熵 变量实有熵同它可能最大熵之比，称为相对熵，即 3．剩余熵 在熵没有达到最大值时，表示一部分信息没有参加活动，称为剩余熵，也称冗余度，即 R=1-H0 4．信息量的单位 信息量的单位是按对数的低来区分。以2为低的对数计算得到的信息量的单位为bit（比特），是信息量最常用的单位。以3、e、10为低的对数计算的信息量的单位，分别为tet（铁特）、net（奈特）、det（笛特）。? §2-3 信 息 论 基 础 三、信息论的几个重要概念 第二章 数学基础 §2-4地图制图数据处理模型的图论基础 一、基本概念 图论是借助事物的抽象图形来研究事物之间相互关系的学科。它用一组点代表事物，用一组边代表事物之间的关系，形成一个用于研究点与边之间特征的抽象图形。 §2-4 图 论 基 础 在图中黑点表示顶点，用线段表示边，可以把图看成是点集、边集和边集关系的集合。 式中， 是图； 是点的有限非空集。 为边的有限