[信息与通信]第八章信号与信息处理.ppt

中南大学信息科学与工程学院 信息与通信工程系 第8章 知识脉络 本章内容 8.1.1 信息的概念 8.1.1 信息的概念 关系： 信号--则是抽象信息在物理层表达的外延；它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。 消息--比较具体的概念。用语言、文字和图像等能够被人们感官器官所感知的形式，把客观物质运动和主观思维运动的状态表达出来．但它不是物理的 信息--一种抽象的概念，它须用某种符号来表示，如：文字、声音、图片…等。 同一信息，可以采用不同的消息形式(比如文字、语言、图象等)来载荷； 同一信息，也可以采用不同的信号形式(比如电信号、光信号)来表达； 同一信号形式，比如“0”与“1”可以表达不同形式的信息，比如无与有、断 与通、低与高(电平)等等。 信息区别于物质与能源的特征 信息是无形的。 信息是可共享的。 信息是无限的。 信息是可度量的。信息度量应满足信息的3个基本方向：结构的、统计的、语义的 8.1.2 信息论形成与发展 信息论是一门基本理论科学：它关系信息的本质并用数学理论来研究描述度量信息以及传递、处理信息的方法。信息论主要运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题。 奠基人：美国数学家香农（C.E.Shannon）: 1948年“通信的数学理论” “通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息””。 8.1.2 信息论形成与发展 ??信息论产生的背景--人类通信技术的发展 公元前1775年，希腊字母发明 ?? 公元前1400年，中国甲骨文 ?? 公元前8世纪，烽火通信（“烽火戏诸侯”） 1838年，Morse电码 ?? 1875年，Bell发明电话 ?? 1877年，Edison发明留声机 ?? 1901年，Marconi完成跨越大西洋的无线电报 ?? 1927年，NBC开播两套无线节目 ?? 1938年，广播剧“世界之战”引发大恐慌 ?? 1939年，电视广播开始 ?? 1944年，哈佛大学的第一台电子计算机诞生 8.1.2 信息论形成与发展 现代信息论实际上是从20世纪20年代奈奎斯特和哈特莱的工作开始的。 1924年奈奎斯特 (H．Nyquist)的 “影响电报速率因素的确定” 一文， 1928年哈特莱 (R .V.Hartley) 的“信息传输” 一文研究了通信系统传输信息的能力，并给出了信息 度量的方法。 建立通信中数学理论时面临的主要问题 ?? 计量信号中信息 ?? 通信系统中信息传输效率 ?? 信息传输的准确性 ?? 噪声干扰 ?? 核心问题是信息传输的有效性与可靠性 ?? 这两个问题由于维纳和香农二人开创性的工作得以解决 香农其人其事与信息论的贡献 1916年4月30日出生于美国密执安州的加 洛德一个商人和教师的家庭。 ?? 1936年获得了密西根州大学的数学和电子 工程学学士学位。 ?? 1940年获得麻省理工学院博士学位。 ?? 1941年至1972年间，在贝尔实验室工 作。 ?? 从1958年在麻省理工学院任教，至1978 年退休。 ?? 2001年2月24日在马萨诸塞州的Medford 因老年痴呆症与世长辞，享年84岁。 香农对信息论的贡献 第一次从理论上阐明了通信的基本问题，提出了通信系统的模型； 提出了度量信息量的数学公式； 初步解决了如何从信息接受端提取信息源发来的消息的技术问题； 提出了如何充分利用信道的信息容量，如何在有限的信道中以最大的速率传递最大的信息量的基本途径； 初步解决了如何编、译码才能使信源的信息充分表达、信道的容量被充分利用的问题。 香农对信息论的贡献 香农三大定理是狭义信息论的基础理论。 可变长无失真信源编码定理(香农第一定理)。 为了能够无失真的传输信源信息，对信源编码时所需的最少的码符号数是多少？ 有噪信道编码定理(香农第二定理)。 在有噪信道中有没有可能以接近信道容量的信息传输率传输信息而错误概率几乎为零？ 保失真度准则下的有失真信源编码定理(香农第三定理)。 如果对信源编码时允许一定量的失真，所需的最少的码符号数又是多少？ 8.1.3 通信系统 8.1.3 通信系统 核心问题：信源的消息中所包含的信息量以及信息如何度量 编码器的功能 将消息变成适合信道传输的信号 常见的信源编码 文字 ASCII， GB2312, GBK 声音 PCM编码，MP3（MPEG1 Layer 3） 图像 BMP, JPG, AVI, RMVB 信道编码