信息管理学第五章 信源编码.docVIP

第章信源编码 信编码本章主要介绍信息传输的有效性及信源编码的有关问题。首先介绍信息传输的概念与模型，并论述信宿从信息传输中获得的信息量的计算原理与方法，然后从信息传输的有效性出发说明信源编码的基本原理，信源编码定理最后。 学习目标掌握信息传输的基本概念及模型 （2）掌握信宿获得信息量的计算方法与原理 （3）理解信源编码的概念信源编码 5.1 信息传输5.1.1 信息传输的概念 信息是，而不是事物本身。，信息可以脱离其源事物独立存在这种脱离可表现为两种状态一是时间上的脱离，某事物在某一时空中的运动一旦和它的源事物相分离，它运动就成为信源事物在新的时空中运动的历史，不再是它的现状，也即历史信息，时间上的脱离需要对信息进行存储才能使信息继续存在；二是空间上的脱离，事物运动的在脱离源事物的同时，就必然附着于另一事物，完全同一切事物相脱离、相独立的信息是不可能存在的。信息所附着的事物即为信息的载体，通过信息载体的运动就能够将附着在其上的信息一点传递到另一点，而信息载体的运动需要借助一定的能量，这就是信息的传输。 信息传输是指把信息从空间中的一点传送到另一点的过程，其核心问题是保证传输的可靠性、有效性和保密性。它是某事物运动的在脱离源事物后，附着于另一事物并通过后者的运动将这种在空间中从一点传到另一点。在少数场合，由于传输距离较近，事物的运动状态方式可以直接随源事物在空间中的移动而实现传输。不过，大多数情况下，信息传输距离比较远，通过直接随源事物在空间中的移动而实现传输都是不可能的，一般情况下信息会脱离源事物而附着于另一种事物实现传输。 前面提到，认识论层次信息可以划分为三个基本的层次，即语法信息、语义信息和语用信息。语法信息是“事物运动”本身，不涉及含义和效用，是最抽象最基本的层次语义信息是这些“”的具体含义语用信息则是这种“”相对于某种目的的效用。也就是说，语法信息是“事物运动”的形式化关系，而语义和语用信息分别是这种形式化关系所包含的内容和价值。由此可知，语义和语用信息是建立在语法信息的基础之上，有了语法信息，用户就可以从中获得相应的语义信息和语用信息。因此，信息传输所关心的是传输信息的形式化描述，即语法信息，而与信息的内容和价值无关。 信息传输系统是为大量用户服务的，而用户的访问情况是随机的，各个用户所要传递的信息也是系统设计者事先无法预料的，再加上传输过程中出现的随机干扰情况等因此信息传输需要考虑的，也不是一般的语法信息问题，而主要是概率性的语法信息问题，是从概率统计角度来研究事物运动各种可能出现的状态及状态间的关系。 总之，从传输内容上说，所谓信息传输，其实只是语法信息的传输，且主要是概率语法信息的传输，只要传递了语法信息，语义和语信息也就必然隐含在其中了。 通常，把一种事物运动的脱离源事物而附着于另一种事物的过程，称为信息的表示过程，或叫做“信息变换”过程。实际上，信息在空间中传送的过程，可能要经过多次变换，要变更多种不同的载体。为了便于描述，把这些变换叫做n级变换，n表示变换的级数，而把这些载体称为n级载体。这些不同级的变换和载体，在具体的形式和性能上是有区别的，适合于不同的要求，但是，所有这些不同级的变换和载体在原理上又有许多共性，否则，它们就不可能协同运动完成共同的任务。 载体是为了传输信息而选择的，因此载体既要能够在空间中转移，从一点运动到另一点，又要有能力表示所传输的信息。载体有能力对所传输信息进行表示就是指能够把源事物的运动、这些之间的关系用载体自身的某种物理量表示出来，而载体的某种物理量的各种取值及这些取值之间的关系，必须与所传递的源事物的运动状态以及这些状态之间的关系一一对应。把这种能将自己的某种物理量与所附着的信息建立一一对应关系的物理载体称为信号比如电信号光信号声信号生物信号等。 信号携带着消息，是消息的运载工具。如你收到一封电报，内容是“母病愈”。“母病愈”这种关于母亲身体健康状况的信息，用汉文“母病愈”的消息来表述，然后通过电报系统传送到另一地的收信者。由于这个电报系统的传递信道是无线电电波信道，所以汉文消息不能直接在信道中传输。先将汉文例如“母病愈”变换成四位码，然后变换成由点、划和空隔三种符号组成的莫尔斯码，再转换成脉冲电信号，然后经过调制变成高频调制电信号，才能在信道中传输。此时，脉冲电信号或高频调制电信号都载荷着汉文消息，表述了母亲身体健康的一种状态。在通信系统的接收端，通过解调反变换，若无干扰的话就可恢复成原汉文消息“母病愈”。收信者收到报文后，就得知母亲病愈，身体健康，从而获得了信息。 可见，信号携带信息，但不是信息本身。同样，同一信息用不同的信号来表示，同一信号也可表示不同的信息。以红绿灯信号为例。若在十字路口，红绿灯信号表示能否通行的信息。若在电子仪器面板上，红绿灯信号表示仪器是否正常