第1章--信息、信息科学与信息技术.pptVIP

第1章信息、信息科学与信息技术

;1.1探索信息的真谛;1.1.3香农对信息的定义

什么是信息？信息能否度量？怎样度量？

香农认为：信息是有秩序的量度，是人们对事物了解的不确定性的消除或减少。信息是对组织程度的一种测度，信息能使物质系统有序性增强，减少破坏、混乱和噪音。

;香农提出：信息的传播过程是“信源”〔信息的发送者〕把要提供的信息经过“信道”传递给“信宿”〔信息的接收者〕，信宿接收这些经过“译码”〔即解释符号〕的信息符号的过程。并由此建立了通信系统模型。

那么什么是信道呢？

信道是在物理线路上划分的逻辑通道。;1.1.4信息的度量

由于信息源发出的消息是随机的，可以用随机变量来表示。如果用符号表示信息源发出的信息，假设事件的根本空间?包含m个元素，即?={x1,x2,…,xm},且每一个等可能值的概率为：

P〔X=xi〕=pi=1,2,…,m

那么定义一个随机事件所含的信息量称为x的自信息量，即：

〔公式1-1〕;只能表示信息源发出的某一特定消息x的自信息量，而对于不同的消息那么有不同的自信息量，所以缺乏以作为整个信息源的总体信息测度，那么可以定义平均信息量来作为信息总体的测度，即信息熵。

设X为一离散随机变量，在集合中取值，其概率分布为;信息熵是从整个信息源的统计特性来考虑的，它从平均的意义上来表示信息源的总体信息测度，它表示信息源X在没有发出消息以前，信宿对信息源X存在着平均不确定性。香农的信息度量公式排除了对信息主观上的含意。根据上述公式，同样一个消息对任何一个收信者来说，所得到的信息量都是一样的。

;;为正确理解信息熵的概念，下面举例来说明。在试验甲和乙中，两种结果A和B出现的概率如下：

;;如果将信息熵的计算公式套用到类似本例的实验中，可以这样描述：设在试验中有N个可能出现的结果，A(1)，A(2)，…，A(n)假设它们出现的概率分别是P(1)，P(2)，…，P(n)通常规定这个试验的熵为：;1.1.5香农信息论的局限性

首先???香农对信息的定义的出发点是假定事物状态可以用一个以经典集合论为根底的概率模型来描述。然而实际存在的某些事物运动状态要寻找一个适宜的概率模型往往是非常困难的。对某些情况来讲，是否存在这样一个模型还值得探讨。

其次，这个定义和度量考虑收信者的主观特性和主观意义，也撇开了信息的具体含义、具体用途、重要程度和引起后果等因素。这与实际情况不完全一致。;以上问题的出现，主要是由于狭义信息论没有解决信息的语义问题和有效性问题。语义信息是指当认知主体在获得信息时，不仅要知道“是什么形式”，而且还要理解“是什么意思”。也就是说，信息的具体含义是什么。香农定义并没有解决语义信息的度量问题。这样，它的适用范围就受到严重的限制。

;1.1.6数据、消息、信号与信息的区别

1.数据

数据是对客观实体的一种描述形式，是信息的载体。

数据〔原材料木头〕与信息〔加工以形成的结构〕的关系;从这个意义上，信息和数据的区别可以理解为：数据是未加工的信息，而信息是数据经过加工以后的能为某个目的使用的数据，信息是数据的内容或诠释。将数据加工为信息的过程称为信息加工或处理。

数据可分为模拟数据和数字数据两种形式。模拟数据是在某个区间内连续的值。

;2.消息

信息是包含在消息中的抽象量，消息是具体的，其中蕴含着信息。

按照香农理论，在通信过程中，信息总是经过编码(符号化)成为消息以后，才能经由媒介传播的，而信息的接收者收到信息后，总是要经过译码(解读)才获取其中的信息的。;3.信号

把消息变换成适合信道传输的物理量，这种物理量称为信号。信号携带着消息，它是消息的运载工具。

信号是数据的电磁或光脉冲编码。

信号可以分为模拟信号和数字信号。

模拟信号是一种随时间而连续变化的信号。

数字信号那么是在时间上的一种离散信号。;1.2信息科学;1.2.2科学、技术与工程的界定

“科学”是指探知事物的本质、特征、内在规律以及与其他事物的联系,是关于自然、社会和思维的开展与变化规律的知识体系。

“技术”那么是运用科学规律解决实现某一目的的手段和方法,泛指根据生产实践经验和科学原理而开展形成的各种工艺操作方法、技能和技巧。

工程是指将科学原理应用到工农业等生产部门中去而形成的各门学科的总称。;1.2.3信息科学

信息和控制是信息科学的