第八章逻辑模型总论.pptVIP

逻辑模型 浙江大学数学建模基地 至此，我们已经引入了信息度量的定量公式。如前所述，它是信息对消除问题的不确定性的度量。这种讲法似乎有点难以为人们所接受，其实，这只是人们的习惯在起作用。这里，我们不妨来作一比较。在人们搞清热的奥秘以前，温度也是一个较为抽象的概念，因它实质上是物体分子运动平均速度的一种映。人们天生就知道冷和热，但如何来度量它却曾经是一个难题。只有在解决了这一问题以后，以定量分析为主的热力学才能得到飞速的发展。信息问题也是这样，人们对各种信息包含的实质“内容”究竟有多少往往也有一个直观的感觉，但用什么方法来度量它，却比“今天15度”这样的讲法更不易理解，因为它是通过较为抽象的概率来计算的。 平均信息量（熵）问题 设某一实验可能有N种结果，它们出现的概率分别为p1,…,pN,则事先告诉你将出现第i种结果的信息，其信息量为－log2pi，而该实验的不确定性则可用这组信息的平均信息量（或熵） 来表示 例15 投掷一枚骼子的结果有六种，即出现1—6点、出现每 种情况的概率均为1/6，故熵 H=log26≈2.585（比特）。 投掷一枚硬币的结果为正、反面两种，出现的概率均为1/2，故熵 H=log22=1（比特）。 向石块上猛摔一只鸡蛋