1信息、信息科学和信息技术.pptVIP

信息技术导论;*;纲要;一、教学目的 1．了解信息的来源和发展历史；了解信息科学与信息技术的基本概念 2．掌握信息的概念、数据、消息、信号与信息的区别。 3．掌握信息技术的核心及支撑技术。 二、教学重点及难点 1．重点：数据、消息、信号与信息的区别；信息技术的核心及支撑技术。 2．难点：信息的概念及度量。 ;1.1 探索信息的真谛;1.1 探索信息的真谛;香农（Claude Elwood Shannon) 1916年4月30日出生于美国密歇根州，2001年2月26日去世。美国数学家、信息论的创始人。;1.1 探索信息的真谛;意大利学者朗格(G.Longe):信息是事物之间的差异，而不是事物本身。即信息是反映事物的形式、关系和差别的东西。包含在事物的差异之中。所谓信息量就是对事物差异度的量度。 钟义信:信息是事物的运动状态和过程以及关于这种状态和过程的知识。 ;1.1 探索信息的真谛; 香农的研究成果标志着信息论（Information Theory）的诞生。香农提出的信息论是关于通讯技术的理论，它是以数学方法研究通讯技术中关于信息的传输和变换规律的一门科学。所以，人们又将其称为狭义信息论，或经典信息论。 信息论发展的第二个阶段是一般信息论。一般信息论特别关心信号被噪音干扰时的处理问题。 信息论发展的第三个阶段是广义信息论。它以各种系统、各门学科中的信息为对象，广泛地研究信息的本质和特点，以及信息的获取、计量、传输、处理、控制和利用的一般规律。;香农认为：信息是有秩序的量度，是人们对事物了解的不确定性的消除或减少。信息是对组织程度的一种测度，信息能使物质系统有序性增强，减少破坏、混乱和噪音。 香农引入：“熵”表示一个系统的无组织程度。而一个系统中的信息量是它的组织化程度的度量，这说明信息与熵恰好是一个相反的量，信息是负熵，所以信息量的公式中有负号，它表示系统获得信息后无序状态的减少或消除。; 由于信息源发出的消息是随机的，可以用随机变量来表示。如果用符号 表示信息源发出的信息，假设事件的基本空间 ?包含 m个元素，即 ?={x1,x2,…,xm},且每一个等可能值的概率为： P（X=xi）=p i=1,2,…,m 那么定义一个随机事件 所含的信息量称为x的自信息量，即： （公式1-1） ; 只能表示信息源发出的某一特定消息x的自信息量，而对于不同的消息则有不同的自信息量，所以 不足以作为整个信息源的总体信息测度，那么可以定义平均信息量来作为信息总体的测度，即信息熵。 设X为一离散随机变量，在集合 中取值，其概率分布为：;信息熵：是从整个信息源的统计特性来考虑的，它从平均的意义上来表示信息源的总体信息测度，它表示信息源 X 在没有发出消息以前，信宿对信息源 X 存在着平均不确定性。香农的信息度量公式排除了对信息主观上的含意。根据上述公式，同样一个消息对任何一个收信者来说，所得到的信息量都是一样的。 ;以上就是香农关于信息的度量。通常也称为概率信息。它是一个科学的定义，有明确的数学模型和定量计算。在公式中，对数的底数从理论上而言可以取任何数。当底数为2时，信息的计量单位为比特（bit），即二进制单位。 ;首先，香农对信息的定义的出发点是假定事物状态可以用一个以经典集合论为基础的概率模型来描述。然而实际存在的某些事物运动状态要寻找一个合适的概率模型往往是非常困难的。 其次，这个定义和度量考虑收信者的主观特性和主观意义，也撇开了信息的具体含义、具体用途、重要程度和引起后果等因素。;以上问题的出现，主要是由于狭义信息论没有解决信息的语义问题和有效性问题。语义信息是指当认知主体在获得信息时，不仅要知道“是什么形式”，而且还要理解“是什么意思”。也就是说，信息的具体含义是什么。香农定义并没有解决语义信息的度量问题。这样，它的适用范围就受到严重的限制。 ;1. 数据 数据是对客观实体的一种描述形式，是信息的载体。 数据（原材料木头）与信息（加工以形成的结构）的关系 数据是未加工的信息，信息是数据的内容或诠释。 将数据加工为信息的过程即信息加工或处理。;2. 消息 在通信过程中，信息总是经过编码(符号化)成为消息以后，才能经由媒介传播的，而信息的接收者收到信息后，总是要经过译码(解读)才获取其中的信息。 信息是包含在消息中的抽象量，消息是具体的，其中