由信息量负熵原理解释热力学第二定律的本质.pdfVIP

池 州 师 专 学 报 年 月 第20卷 第3期 2006 6 Vol.20No.3 Journal of Chizhou Teachers College Jun.,2006 由信息量负熵原理解释热力学 第二定律的本质 吴卫锋 （池州师范专科学校 物理系，安徽 池州 247000） [摘要]贝尔实验室的仙农（shennon）把玻尔兹曼定义的熵引入到信息论中，本文就由仙农（shennon）提出的信息负 熵原理来解释了热力学第二定律的本质，并用信息负熵原理来表示热力学第二定律。 [关键词]信息量；熵；热力学第二定律 [中图分类号]O41 [文献标识码]A [文章编号]1008-7710（2006）03-0042-02 1948年，仙农 （shennon）把玻尔兹曼定义的熵引入到 其中，K为恒量，Ω0为系统的初状态的热力学概率， 信息论中，他把熵看作某一随机事件中不确定性的量度， Ω 为系统终态的热力学概率，I为系统终态的信息量。 1 1 从而莫定了信息论的基础。什么是信息?通俗地说，信息就 信息量的热力学定义式 是消息，在信息论中把信息看作为一种用以清除不确定性 （2） 的东西。因此，信息数量的大小，可以用被消除的不确定性 的多少来量度。有关信息和不确定性的关系可举例如下： 其中，K为玻尔兹曼恒量，Ω、Ω 的意义与上面的式 0 1 某人手中持有一副扑克牌中的某一张，若要我们去猜测它 （1）相同。 是其中的哪一张，显然这时有52种可能的结果(每副扑克 信息论（Theinformationtheory）中关于信息量的定义： 有52张不同的牌)，即具有很大的不确定性。这时如果我们 信息的集合{a,a,LL,a}及其出现之概率 1 2 n 被告知这是一张“A”时(获得信息)，那么那张牌就只有四 所给定的信息源，可作为有限事件的集合并表示为 种可能的结果(四种不同花色的“A”)，其不确定性大为减 少。若我们只被告知这是一张黑桃时(获得信息)，那么，那 张脾会有13种可能结果(一副牌有13张黑桃)，其不确定 对此X所确定的量 性也已减少。由此可见，获得信息就是减少情况的不确定 （3） 性，而各种不同信息所消除的不确定性的多少是不同的。 称之为信息源的信息量，又称仙农熵或信息熵，K为 于是，仙农引进信息熵的概念来量度信息量。 大于零的恒量。 1 信息量的定义 2信息量与熵的定量关系———信息量负熵原理 信息，通常指在学习或观测中所得到的新闻、消息、知 把信息量定义式(2)代入玻尔兹曼熵公式 得： 识和数据。在科学上，信息具有严格和确切的含义，它是指 （4） 某些抽象的，能被贮存、提取、传递和交换的资料以及数据 的集合，用信息量作定量描述。 其中，S为系统初态熵，S为系统终态熵。由于信息的