物理熵,信息熵及其演化方程.pdfVIP

中 国 科 学 （ 辑） B 第 卷 第 期 （ ） 年 月 ! ! 8’CDE’D CE ’FCEB 8=G,=+ B :! ! 物理熵、信息熵及其演化方程 邢修三 （北京理工大学应用物理系，北京 !#!） 摘要 在非平衡统计物理熵演化方程和熵产生率简明公式的启示下，发展了动态 信息熵理论，建立了信息熵密度在时间和态变量空间变化的非线性演化方程 $ 它的 数学形式和物理意义与物理熵演化方程类似：信息熵密度的变化同样是由漂移、扩散 和产生三者共同引起的$ 信息熵产生率简明公式与物理熵的亦类似 $ 进而研究了物 理熵和信息熵的同异及这两种统计熵的可能统一，讨论了熵增加原理、平衡态最大熵 原理和最大信息熵原理三者相互间及其与熵演化方程之间的关联$ 关键词 统计熵 熵演化方程 熵扩散 熵产生率公式 无序度 熵最先于 !#% 年由 ’()*+,*+ 引入，以孤立系统熵增加定律的形式表述热力学第二定律；继 而 -.(/01)22 和 3()245 给出熵的微观统计公式，用熵代表系统的无序度，为熵的重要地位的确 ［，］ 立及其发展奠定了基础$ !67# 年 89)22.2 ! : 将统计熵作为基本组成部分推广用于信息理论 ［］ 中，给熵以新的意义，以表示系统（信源）的不确定性；在此基础上 ;)2=+ 提出最大信息熵原 理，用以确定各种系统的随机态变量的概率分布函数$ 这样，熵不仅是物理学中极为重要的概 念和物理量，而且在数学、化学、宇宙学、生物学、信息论、控制论、经济学、社会学及各种工程科 ［ ］ 学等领域 7 ? @ 显露头角$ 为区别起见，通常可将统计物理中的统计熵叫物理熵，而将信息理论 中的统计熵叫信息熵$ 近些年，随着复杂性广受重视，人们又把信息熵与各种物理和非物理系 ［，］ 统状态的复杂性相联系，并研究其随时间的变化 # 6 $ 尽管熵的地位 日益重要，从研究熵基本性质的统计物理和信息理论来看，目前对熵了解较 为透彻的，主要仍限于平衡态$ 当讨论到非平衡态或动力学状态时，却较少了解熵的变化规 ［ ， ］ 律 $ 两年前，作者 ! !! 在提出一个新的非平衡统计物理基本方程的基础上，首次得到了非平 衡熵密度随时空变化的非线性演化方程，预言了熵扩散的存在$ 然而对于信息熵，则仍仅限于 ［，］ 研究熵的变化速率，没有演化方程 # 6 $ 为此人们 自然会问：既然物理和非物理动力学系统的 信息熵随时间变化，而信息熵又与物理熵的表达式相同，那么，信息熵如何随时间变化？有什 么基本定律？是否遵守什么演化方程？若有，这种方程是什么形式？它与物理熵演化方程有何 同异？熵产生率可否由一个定量的简明公式表示之？最大信息熵原理和熵演化方程又有何联 系？统计熵可否统一？本文就试图统一解答这些课题$ 收稿， 收修改稿 :A@A:% :A!A# = 中 国 科 学 （ 辑） 第