信息、信息技术与计算科学.ppt

第1章 信息、信息技术与计算科学;§1.1 探索信息的真谛;§1.1 探索信息的真谛;从不同角度对信息的理解： 1.最早对信息进行科学定义的是哈特莱（Ralph V.L. Hartley）。他认为，发信者所发出的信息，就是他在通信符号表中选择符号的具体方式，并主张用所选择的自由度来度量信息。 2.1948年，信息论创始人，美国科学家香农(C.E.Shannon)从研究通信理论出发，第一次用数学方法定义“信息就是不确定性的消除量”。认为信息具有使不确定性减少的能力，信息量就是不确定性减少的程度。 3.控制论创始人之一，美国科学家维纳(N.Wiener)指出“信息就是信息，不是物质，也不是能量。”维纳把人们与外界环境交换信息的过程看成是一种广义的通信过程，试图从信息自身具有的内容属性给信息定义。;4.关于信息的定义，有人提出用变异量来度量，认为“信息就是差异”。他提出：“信息是反映事物的形式、关系和差别的东西。信息是包含于客体间的差别中，而不是在客体本身中。” 5.信息是“事物运动状态和方式，也就是事物内部结构和外部联系的状态和方式”。 6.《辞源》对信息定义为：“信息就是收信者事先所不知道的报导。” 7.“信息是指对诸如事实、数据或观点之类的知识的传递或描述，这些知识可以存在于任何媒体或形式之中，包括文本形式、数字形式、图表形式、图形形式、叙述形式或视听形式。” ;1.1.2 从信息论到信息科学 香农提出的信息论是关于通信技术的理论，它是以数学方法研究通信技术中关于信息的传输和变换规律的一门科学。所以，人们又将其称为狭义信息论，或经典信息论。 信息论发展的第二个阶段是一般信息论。 这种信息论虽然主要还是研究通信问题，但是新增加了噪声理论，信号的滤波、检测、信号的编码与译码、信号的调制与解调，以及信息的处理等问题。 信息论发展的第三个阶段是广义信息论。;在对信息的研究中，仅考虑其形式的方面而不考虑其内容和用途，即是狭义信息。 广义信息论以各种系统、各门科学中的信息为对象，广泛地研究信息的本质和特点，以及信息的获取、计量、传输、储存、处理、控制和利用的一般规律。 1.1.3 香农对信息的定义 香农认为：信息是有秩序的量度，是人们对事物了解的不确定性的消除或减少。信息是对组织程度的一种测度，信息能使物质系统有序性增强，减少破坏、混乱和噪音。;香农提出：信息的传播过程是“信源” 把要提供的信息经过“信道”传递给“信宿”，信宿接收这些经过“译码”的信息符号的过程。 信道是在物理线路上划分的逻辑通道。 在香农确定信息量名称时，将热力学中的“熵”的概念应用到信息领域。一个系统的熵就是它的无组织程度的度量。;1.1.4 信息的度量 不确定性的大小可以被直观地看成是事先猜测某随机事件是否发生的可能程度。 由于信息源发出的消息是随机的，可以用随机变量来表示。 I(x)只能表示信息源发出的某一特定消息x的自信息量，而对于不同的消息则有不同的自信息量，所以I(x)不足以作为整个信息源的总体信息测度，可以定义平均信息量来作为信息总体的测度，即信息熵。;定义： 信息熵是从整个信息源的统计特性来考虑的，它从平均的意义上来表示信息源的总体信息测度，它表示信息源X在没有发出消息以前，信宿对信息源X存在着平均不确定性。 随着信息概念的广泛应用，香农信息论的局限性逐渐暴露出来。主要是由于狭义信息论没有解决信息的语义问题和有效性问题。 ;1.1.5 数据、消息、信号与信息的区别 1.数据 数据是对客观实体的一种描述形式，是信息的载体。 信息和数据的区别可以理解为：数据是未加工的信息，而信息是数据经过加工以后的能为某个目的使用的数据，信息是数据的内容或诠释。 数据可分为模拟数据和数字数据两种形式。;2.消息 信息论的先驱哈特莱认为信息是包含在消息中的抽象量，消息是具体的，其中蕴含着信息。 按照香农理论，在通信过程中，信息总是经过编码(符号化)成为消息以后，才能经由媒介传播的，而信息的接收者收到信息后，总是要经过译码(解读)才能获取其中的信息的。 3.信号 把消息变换成适合信道传输的物理量，这种物理量称为信号。 信号是数据的电磁或光脉冲编码。信号可以分为模拟信号和数字信号。; ;“科学”(Science)与“技术”(Technology) “科学”是指探知事物的本质、特征、内在规律以及与其他事物的联系, 是关于自然、社会和思维的发展与变化规律的知识体系；“技术”则是运用科学规律解决实现某一目的的手段和方法，泛指根据生产实践经验和科学原理而发展形成的各种工艺操作方法、技能和技巧。 工程（Engineering）是指将科学原理应用到工农业等生产部门中去而形成的各门学科的总称。;1.2.1 信息科学的产生与定义 信息和控制是信息科学的基础和核心。 20世纪60年代