信息论与编码解说.ppt

* 1.4 目前信息论的主要研究成果 * 信息论的主要研究成果 语音信号压缩 长途电话网标准 1972年CCITT G.711标准中的 64kbit/s， 1995年 CCITT G. 723.1标准中的 6.3 kbit/s。 移动通信中 1989年GSM标准中语音编码速率为13.2 kbit/s 1994年在为半码速GSM研究的VSELP编码算法中，码速率为5.6 kbit/s 军用通信 美国NSA标准的速率在1975年已达2.4 kbit/s 目前在实验室中已实现600bit/s的低速率语音编码,特别是按音素识别与合成原理构造的声码器其速率可低于100bit/s,已接近信息论指出的极限 * 信息论的主要研究成果 图像信号压缩 图像信号的信息量特别巨大，这对图像信号的传输及存储都带来极大的不便 。 1989年 CCITT提出电视电话/会议电视的压缩标准H.261,其压缩比达到25:1到48:1左右 1991年CCITT与ISO联合提出的“多灰度静止图像压缩编码”标准JPEG,其压缩比为24:1 在运动图像方面,运动图像专家组继成功定义了MPEG-1和MPEG-2之后,于1993年7月开始制订全新的MPEG-4标准。随着MPEG-4标准的不断扩展,它不但能支持码率低于64kbit/s的多媒体通信,也能支持广播级的视频。 * 信息论的主要研究成果 降低信息传输所需的功率 在远距离无线通信,特别是深空通信中如何降低信息传输所需的功率至关重要。因为在这种情况下发送设备的功率和天线的尺寸都已成为设备生产和使用中的一个困难问题。 正是在这个领域信息论获得了它第一批令人信服的成果。60年代后期起，NASA发射的所有深空探测器无一例外地在其通信设备中采取了信道编码措施 * 信息论的主要研究成果 计算机网中数据传输可靠性的保证 在用各种电缆连接而成的计算机网中电噪声和各种外界的电磁干扰是必须考虑的，因为它使传输的信息发生差错。 一般情况下，局域网中的差错率在10-8左右,广域网中的差错率在10-3～10-5。这样高的差错率在实际应用中是无法接受的，目前普遍采用的解决办法是带自动重发请求的差错检测码。 差错检测的方法从最简单的奇偶检验到比较复杂的循环冗余检验都被采用，但规模较大的网一般都用循环冗余检验。 * 课程安排 绪论 信源与信源熵 信道与信道容量 无失真信源编码定理 无失真信源编码 有噪信道编码定理 信道纠错编码 实验 学时2 10 10 8 2 4 2 8 * 信息论与编码 主 讲： 李 利 品 联系电话 办公室： 2#102 * 课程内容 信息论的基本问题—信息的度量 无失真信源编码定理—香农第一定理 信道编码定理—香农第二定理 限失真信源编码定理—香农第三定理 信源编码 信道编码 * 教学目标 香农信息论的基本理论、概念和方法； 信息的统计度量，离散信源，离散信道和信道容量 编码的理论和实现原理 信源编码与信道编码 教学重点 信息度量 信源描述 信道容量 编码理论及实现 * 参考书 1．信息论与编码， 姜丹编著，中国科学技术大学出版社，2003 2．信息论与编码，陈运编著，电子工业出版社，2002 信息理论与编码，吕锋等编著，人民邮电出版社，2004 信息论与编码，仇佩亮编著，高等教育出版社，1999 * 计分方式 最后期终考试成绩占80％ 平时成绩占20％ 作业：一次不交扣2分，无故缺席一次扣2分，迟到或者早退一次扣1分； 课堂提问：一次回答不上扣2分，视回答情况酌情扣分； 严重违反课堂纪律，视情节轻重扣分。 绪 论 第一章 * 1.1 信息的基本概念 * 什么是信息? 信息：一个既复杂又抽象的概念 消息、情报、知识——信息的形式和内容 数据、文字、记录（计算机处理或通信传输的对象）——信息的具体表现形式 科学名词：统计数学、通信技术 用严格的数学公式定义的科学名词，它与内容无关，而且不随信息具体表现形式的变化而变化，因而也独立于形式。 它反映了信息表达形式中统计方面的性质，是一个统计学上的抽象概念。 究竟应该怎么定义信息呢？ * 什么是信息? 信息是指各个事物运动的状态及状态变化的方式。 人们从来自对周围世界观察得到的数据中获得信息。 信息是抽象的意识或知识，它是看不见、摸不到的。 人脑的思维活动产生的一种想法，当它仍储存在脑子中的时候它就是一种信息。 * 信息论和信息技术研究什么样的问题？ 信息不是静止的，它会产生也会消亡，人们需要获取它，并完成它的传输、交换、处理、检测、识别、存储、显示等功能。研究这方面的科学就是信息科学。 信息论是信息科学的主要理论基础之一。它研究信息的基本理论，主要研究可能性和存在性问题，为具体实现提供理论基础。 信