兼容Shannon和Popper理论的语义信息公式.PDF

兼容 Shannon 和 Popper 理论的 语义信息公式 鲁晨光 Email: ：survival99@ 个人主页：/lcg QQ 228550917 摘要：因为 Shannon 信息公式并不能度量语义信息，更不能反映 Popper 提出的科学进步的信 息准则，为此，笔者曾提出改进的公式（语义信息公式），它继承了 Shannon 和 Popper 的思想， 基于 Zadeh 教授的模糊集合概念和汪培庄教授的随机集落影理。Zadeh 定义的模糊集合概率被解 释为 Popper 想要的逻辑概率， 并且隶属度被解释为条件逻辑概率，用两者取代经典信息公式 I=log(p /p ) 中的概率和条件概率，所得公式就能反映语义信息，其几何性质明了，正好反映 2 1 Popper 希望的信息准则，可用于科学命题的检验。该信息测度和 Shannon 互信息测度一样反映节 省的编码长度。文中介绍了如何利用集合 Bayes 公式建立统计概率和逻辑概率之间的联系，讨论 了语义信息公式在语义信息度量、数值预测或估计、语言预测、全球定位、翻译、模糊推理等领 域的应用， 并通过这些例子说明公式的有效性和合理性。特别是通过一个模糊推理例子，说明可 以改进语义信道，使之匹配 Shannon 信道， 传递信息量达到最大值——Shannon 互信息。 关键词: Shannon，Popper, 语义信息，逻辑概率，模糊推理，检验，语义信道 1 引言 Shannon 于 1948 年发表了长文《通信的数学理论》【29 】后，Weaver 提出语义信息【34 】。和 Shannon 信息相比，语义信息有两个特点：一是涉及含义，存在对错或偏差问题；二是不确定性不止 是来自事件发生概率， 也来自概念或符号所代表的集合的外延（外延通常是模糊的）。这两个特点是 密切相关的。 为了度量语义信息，Bar-Hillel, Y. 和 Carnap (卡尔纳普) 【4 】提出用逻辑概率代替统计概率度量 语义学信息， 公式是：inf(i)=logm (i) ，其中 i 是命题，m 是逻辑概率。文中还提出相对信息公式： p p Inf(j /i)=Inf(i,j )-Inf(i) ，j 是另一个命题。这些公式是有意义的，笔者也用到类似公式。但是，他 们的方法有太多限制，比如，1）语句的真假必须是严格分明的，没有模糊性；2 ）语句总是被正确使 用，没有谎言，错误或偏差；3 ）不考虑客观事实的概率，逻辑概率也只是逻辑空间的相对比例， 比 如 3 个谓词把逻辑空间划分为 8 个格子，一个命题的最小逻辑概率是 1/8.。另外，根据他们的公式， 矛盾命题反而信息多过正确命题，这是违背直觉的， 因此被Floridi 称之为 Bar-Hillel, Y. 和 Carnap 悖 论（BCP ）【10】。由于这些限制和悖论，他们的公式很难应用。 Popper (波普尔)早在 1935 年的著作《科学发现的逻辑》（【24 】，96,269 ）中就提出用可检验 性，或可证伪性，或信息作为科学理论划界和评价的准则，虽然 Shannon 最早把概率写进信息公式 【10】，Bar-Hillel, Y. 和 Carnap 最早把逻辑概率写进信息公式。 Popper 在后来的《猜想与反驳》 【23 】中更明确提出用信息准则检验命题、预测和理论。Popper 写道( 【25 】,294)：“凡是包含更大量 的经验信息或内容的理论，也即在逻辑上更有力的理论，凡是具有更大的解释力和预测力的理论，从 而可以通过把所预测的事实同观察加以比较而经得起更严格检验的理论，就更为可取。总之，我们宁 取一种有趣、大胆、信息丰富的理论，而不取一种平庸的理论。” 和 Barhillel 和 Carnap 不同，Popper 强调信息（即语义信息）需要事实检验，考虑“用似真度代替 概率”（【25 】，309 ）。为什么Popper 要用信息准则呢？ 考虑天气预报：甲总是今天有雨就预测明 天有雨， 并且从来不预报大雨或暴雨；预测股市总是是用很模糊语言。比如说“可能上涨”或“可能 1 下跌”。