香农信息定义分析及改进.pdfVIP

香农信息定义分析与改进 andBettermentofShannon‘sInformationDefinition Analysis 王 勇 (桂林电子科技大学桂林541004) 摘 要 从新的角度阐明了香农信息论和信息定义的局限性，指出了它没有考虑信息的可靠性、完备性等特点。以及 其条件熵的命名不恰当，香农的“条件熵”应该称为加权平均务件熵，并且举例证明了条件熵可能增加．进而香农信息 定义中的不确定性的减少也不是绝对的。说明了为什么信息论和香农信息定义能够在通信中得到应用，却不能很好 地在日常生活中应用。并对信息可靠性的重要性进行了分析。在这些分析的基础上给出了信息的新定义以及信息相 关的模型。 关键词信息论香农信息定义条件熵 可靠性 中图分类号023 香农(又译仙农、申农，Shannon)信息论对通信技术的发一种正确的反映或者表达。在所有的信息定义中，都没有发 展具有深远的影响…。但是信息论的应用一直限于通信等一 现它们对于可靠性以及类似属性的考虑【5】。 些很局限的领域，信息论并不能够完全地适用于一些信息技 然而，信息之所以能够被利用，信息之所以被重视，它的 术相关的领域。关于香农信息论的局限性，许多学者都有认 可靠性是前提。一旦信息足够的不可靠，信息的价值完全丧 识，香农本人也反对将信息论滥用。国内外一些学者从许多 失，而且可能起反作用。 角度讨论了信息论的局限性，比如没有考虑语义、语用，没有 香农对信息的定义，对信息的度量，以及他的信息论，基 考虑信息的模糊性和事件之间的相似性，没有考虑事件划分 本上都是用熵来计算的随机不确定性，并没有考虑信息的可 可能存在包含关系等[2-4】。笔者发现信息论的局限性一个重 靠度，对信息的可靠度的考虑最多是从信息传递过程中的失 要体现就是忽视信息的可靠性，缺乏对可靠性的度量。对可 真进行了考虑。当然香农也对冗余有所考虑，但是他的冗余 靠性的忽视也体现在目前所有的信息定义上，香农给出了信 度是一个整体的、平均的量。为什么信息论在通信领域非常 息的定义也是如此，事实也说明目前的信息定义并不能够让 适用，因为在通信中，无需考虑信息的可靠性。那是发送者在 人满意，中国科学院编写的(21世纪100个交叉科学难题一发送之前或者是接受者在接受之后考虑的，在通信的过程中， 书中已把。信息是什么”列入100个难题之中。网上也到处都 一切的目的是如何快速、可靠地发送信息。接受信息的可靠 有信息定义的征集和讨论活动，这说明目前信息的定义都不 与否，失真与否，与被发送的信息的可靠性、完备程度和真实 能得到公认。笔者指出，目前信息的定义都没有考虑信息的 程度没有关系，它只需要接受的信息与发送的信息相比较是 可靠性这一因素，则导致了信息论适用于通信领域，但是却无 可靠真实的就达到了通信的目的。 法应用在众多的信息技术领域，比如人工智能、信息融合等领 在香农信息论中，信息是没有考虑语义的，它不考虑信息 域。本文将分析香农信息定义的某些局限，并且从可靠性的 的不一致性，乃至信息的互相矛盾也无所谓，因此不需要接受 角度来定义和分析信息。 反馈和进行折衷调整。信息论中，没有考虑到信息往往是不 完全的片面的，需要进行融合，人们往往可以由已知的信息得 1信息定义的局限 出新的信息，但是香农信息论并没有涉及到如何利用已知的 关于信息的定义。香农的信息定义是比较流行的一个，他 信息推理衍生新的信息。这些问题显然是信息技术所需要 定义如下：信息是用以消除随机不确定性的东西。还有许多 的，也是现实生活中广泛存在的问题。当然目前的知识工程、 学者对这个