第三章信息热力学.PDF

第三章 信息热力学 早在1929年，物理学家齐拉德在德国《物理学期刊》上发表的一篇论文“精灵的干预使热力学系统 的熵减少”中，就提出系统的熵减少一定要以某种物理量来作为补偿。这一物理量实际上就是信息。 齐拉德的工作是现代申农信息论的先导。他还提出了一个计算公式，与申农公式极为相似： ( ) I k W ln W +W ln W 1 1 2 2 这就是说，早在现代信息论诞生之前，处于孕育时期的信息论胚胎就与热力学结下了不解之缘 。齐拉德的文章是1922年完成的，1925年被柏林大学接受为取得大学教授资格的论文。但等到192 9年论文发表时，齐拉德的研究领域已经从理论物理转向实验物理。后来齐拉德移居美国，在原子物 理学方面作出了重要贡献。但他在1929年发表的那篇论文长期没有被人充分理解，他本人也再没有 沿着那条路继续探索下去。20世纪20年代末，信息论的诞生还早着呢，人们怎能就顾及孕育中的信 息论胚胎与热力学的关系 !那还需要等待将近20年的时间。 1948年，申农发表“通信的数学理论”这篇奠基性论文；著名的美籍匈裔数学家、齐拉德在 柏林大学时的同学和朋友冯·诺意曼建议申农将信息论中的不定度称为“熵”；维纳在《控制论》一 书中首次讨论了信息量与热力学第二定律的关系。50年代初，冯·诺意曼已经明确指出热力学与信 息论存在着联系，并且第一个揭示了齐拉德1929年那篇开创性论文的真正价值。布里渊继续了这一 课题的研究，他的名著《科学与信息论》〔14〕就是沿着齐拉德和冯·诺意曼开辟的方向进一步探 索的结果。 关于熵与信息概念的约定性，特别是热力学熵与信息论熵的联系和区别，曾是一个长期争论的 问题，并曾引起混淆。布里渊就是将这两种不同的熵概念混为一谈的，并曾错误地认为信息论的“负 熵可以小得忽略不计”。1963年，瓦伦迪努兹整理了五个不同来源的熵和信息的概念，推导了它们 之间的换算关系，但对它们之间的逻辑关系也并未弄清楚。这可能是信息论与热力学相互关系的研究 长期徘徊不前的症结所在。迄今为止，探索信息论与热力学关系的研究者仍寥寥无几。惟其如此，目 前许多信息论专家并不去注意热力学，而许多热力学专家则不熟悉信息论。普里高津即属于后者之列 。也正因为如此，在信息论与热力学之间的“边缘”，给有志者留下了一大片有待探索并且将是大有 作为的空白领域。从信息论的角度来推广热力学概念，从而建立“信息热力学”的新学科，是一个富 于魅力的课题。 经典热力学是从宏观的角度研究热现象的一门学科。是在热力学第二定律的基础上，以熵的概 念为中心而发展起来的一个逻辑体系。熵和热力学第二定律，既是热力学的基础，也是进一步发展热 力学的突破口。统计力学就是从分子运动的微观角度揭示了熵和热力学第二定律的实质而发展起来的 。普里高津等人首先从非平衡态发展了经典热力学，于20世纪40～50年代建立了“不可逆过程热力 学”。60年代末和70年代初，以普里高津为首的布鲁塞尔学派又发展了非线性、非平衡热力学，从 而建立了耗散结构理论，也同样是抓住熵和热力学第二定律作为突破经典热力学的缺口。信息热力学 看来也不会例外。事实上，我们已经在本书的第一章中讨论了热力学熵与信息论熵的联系和区别，明 确了熵与信息概念的约定性，以及几种不同来源的熵和信息之间逻辑关系和换算关系，第二章则应用 信息论的概念对热力学第二定律的含义进行了推广。这就构成了进一步探索“信息热力学”的基础。 本章我们将继续应用信息论来讨论另一些热力学概念。 3.1 热力学系统与通信系统 对于热力学过程来说，如果没有冷热的差异或矛盾，热是不能传递和转化的。单一的热源既不 能传热，也无法作功。要使作热运动的粒子朝一定的方向运动，传热和作功，就得用冷源来控制粒子 运动的方向，使热量从高温流向低温。这里，冷源的作用是提供信息，以控制热能转移的方向。 从信息论的观点来看，冷源便是一个信息源。在热量转移过程中，冷源接受热源的一部分热量 ，分子运动的混乱度增加。用信息论的术语来说，热源既是“信宿” (收信者)，也是一个噪声源， 它对冷源发生噪扰。这样，我们可以借用信息论的概念和术语把“热源—热机— 冷源”所组成的热