信息-讲义.pptVIP

第一章 绪论 什么是信息？(信息的一般含义) 信息理论研究的基本模型 信息论的研究范围及本课程的内容 信息的表现形式(1) “信息”是作为通道的消息来理解的。 什么是信息？ 非决定论 信息和消息的概念 消息：用文字、符号、数据、语言、图片、图像等能被人感知的形式，把客观物质运动和主观思维活动（信息）表达出来 信息：逻辑的抽象的概念，它是事物运动状态或存在方式不确定性的描述 信息和消息的概念 信息和消息的关系： 信息是抽象的，消息是具体的。信源发出的是消息，消息中蕴涵着信息，是信息的载体。因此在通信过程中，形式上传递的是消息，实际上传递的是信息 研究对象--信息传输系统 需要解决的问题： ①什么是信息? ②如何度量信息?怎样确定信源的输出中含有多少信息量? ③对于一个信道,它传输信息量的最高极限(信道容量)是多少? ④为了能够无失真地传输信源信息,对信源编码时所需的最少的码符号数是多少? (香农第一定理). ⑤在有噪信道中有没有可能以接近信道容量的信息传输率传输信息而错误概率几乎为零? (香农第二定理). ⑥如果对信源编码时允许一定量的失真,所需的最少的码符号数又是多少? (香农第三定理). 信息论研究的目的 有效性：在一定的时间内，传输尽可能多的信息。信源编解码的作用是提高信息传输的有效性； 可靠性：使信息准确、无失真的传输到接收端。信道编解码的