[信息与通信]第三章无失真离散信源编码.pptVIP

第四章 离散无记忆信源无失真编码 信息理论与编码 第3章 离散无记忆信源无失真编码 主要内容 3.1 信源编码概论 3.2 码的唯一可译性 3.3 定长编码定理和定长编码方法 3.4 变长编码定理 3.5 变长编码方法 3.1 信源编码概论 传输之前的两次变换：信源编码、信道编码。 传输之后的两次反变换：信道译码、信源译码。 变换与反变换是成对出现的。 采取适当信道编码和译码措施后，可使信道传送的差错率降到允许的范围之内，因此，图中虚框部分可近似地视为一个等效的无损确定信道，简称为无噪信道，这一点是我们讨论信源编码的前提。 信源编码分类：无失真编码、有失真编码。 无失真编码：只对信源的冗余度进行压缩，不会改变信源的熵，又称冗余度压缩编码，它能保证码元序列经译码后能无失真地恢复成信源符号序列。 有失真编码：又称熵压缩编码，将在第6章讨论。 2、编码器模型 码长li ：码字wi 所含码元的个数。单位：码元/符号，r进制单位/符号。 定长码(FLC，Fixed Length code) ：码中所有码字均有相同的码长l ；否则称为变长码(VLC，Variable Length code)。 平均码长： 例：编码 3、编码器的输出 4、编码效率 3.2 码的唯一可译性 f为一一对应的变换只是无失真编码的必要条件，并不充分; 要保证将码元序列无失真地恢复成信源符号序列，