大学计算机基础期末读书报告-熵与信息论.pdf

  大学计算机基础期末读书报告 主题：熵与信息论 姓名：程宇轩 学院：云峰 1202（预科） 教师：徐镜春 日期：2012-5-31 目录索引： 序………………………………………………………………………2 一．熵理论的初步提出——热力学第二定律与克劳修斯熵………2 二．熵的发展——玻尔兹曼熵………………………………………4 三．更大的进步——控制论与信息论、信息熵……………………5 四．信息论与社会……………………………………………………8     序序 处于信息社会的我我们，对于计计算机显然然不会太陌生，可以说说，人类如今今的 生活已经完全全地离不开开计算机的协协助和控制制了。在这个个社会中，获取和使用用信 息的能力往往往决定了能能否快速高效地解决问问题。然而，对于信息息的本质、信信息 的传播过程中的情况以以及信息对系统的影响响，我们有时时却还是略略有模糊。如如今 的学科门类越越分越细，很多的学科科所属的专专有名词的应应用范围越越来越窄，然然而， 起源于热力学学中“熵”的概念，在在一代代人人的推动之下下，使其应应用范围越来来越 广泛，成为了一个横跨跨物理学、计计算机、生生物学、社会会科学的时时髦的概念。本 文试图让身在在信息社会会的我们倒转时空、回回溯起历史的长河，梳梳理起熵与信信息 论 （Informaation Theoory）交叉发发展的脚步步，并以一名名准大学生生所了解的知知识 和生活体验，简单地说说说信息论论对当今社会会产生的巨巨大影响。作作者才疏学学浅， 本文一定谬误误甚多，还还请读者指出。 一． 熵理论论的初步步提出——— 热力学学第二定定律与克克劳修斯斯熵 从某种意意义上来说说，计算机科科学的萌芽芽应该追溯到帕斯卡((Blaise Passcal) 的加法机（右图）和莱莱布尼兹 Gottfried Wilhelm LLeibniz) 的二进制上上。而在牛顿顿力学体 系初步建立立起来之时，对经典 力学的膜拜拜使得无数人人坚信着 机 械 决 定定 论 (Mecchanical eterminismm)，这对其其后的科 学和哲学观都产生了巨巨大影响。 拉 普 拉 斯 (ierrre-Simon arquis de Laplace)就曾说： “假如方程程足够复杂，那么它 可以解释一切，包括过过去和未来来以及世间万万物。”若是是把生命过过程也看成是是各 种理化反应的话，每个个看到这句话话的人恐怕怕都会有一股股寒意———我们的未来来在 过去早就已经经被明确地地确定了下来。 然而，当当第二次科科技革命的浪浪潮席卷而而来的时候，，这样的观观点就逐步的的被 瓦解了。