《信息论与编码原理》孟放-第五八章 无失真信源编码（编码定理 编码算法） - 2016 - 单页.pdfVIP

第五+八章无失真信源编码 2016/11/9 信息论的旅程  从本章开始，分析信源特性，通过对信源符号进行 编码以提高信息传输的有效性。 √ 【2 】离散信源及其信息测度 √【3】离散信道及其信道容量 【4 】波形信源 【4 】波形信道 【5】无失真信源编码定理 【6】有噪信道编码定理 【7】保真度准则下的信源编码 【9 】信道的纠错编码 【8】无失真的信源编码 2 第五、八章的研究内容  如何实现无损信道传输中的信源信道 匹配？  将原信源编码转换为新的信源 - 概率空间  无失真信源编码的主要研究内容 第五章：无失真信源编码定理  信源编码的目的 – 有效地表示 ！  无失真信源编码基本理论 第八章：无失真信源编码 常用算法 3 主要内容  编码器 编码器概论 信源编码器与基本术语  分组码  唯一可译性、即时码  定长码和定长编码定理  变长码 变长无失真信源编码定理 – 香农第一定理 几种变长编码方法（第八章） 4 主要内容 编码器概论  信源编码器 基本术语  分组码 N 次扩展码  定长码和定长编码定理（等长 = 定长） 变长码 5 1.1、概述–编码器概论  信源编码的作用 1. 使信源适合于信道的传输，用信道能传 输的符号来代表信源发出的消息。 2. 在不失真或允许一定失真的条件下，用 尽可能少的符号来传递信源消息。  信源编码目的 – 提高通信有效性  通常通过压缩信源的冗余度来实现。  采用的一般方法是压缩每个信源符号的 平均比特数。 6 1.1、概述–编码器概论（续）  信源编码理论是信息论的一个重要分支，其 理论基础：无失真信源编码定理；限失真信 源编码定理。  本章主要介绍无失真信源编码，它实质上是 一种统计匹配编码，根据信源的不同概率分 布而选用与之相匹配的码。 信源的统计剩余度主要决定于以下两个因素 无记忆信源中，符号概率分布的非均匀性。 有记忆信源中，符号间的相关性及符号概率分布 的非均匀性。 7 1.1、概述–信源编码器模型  信源编码：将信源符号序列按一定的数