005 信息论与编码 第5章 信源编码.pptVIP

信源编码 第五章 * 5.1 编码的概念 5.2 无失真信源编码 5.3 限失真信源编码 5.4 常用信源编码方法简介 本章内容 * 5.1 编码的概念 编码分为信源编码和信道编码，其中信源编码又分为无失真和限失真。 一般称 第一极限定理：无失真信源编码定理 第二极限定理：信道编码定理 第三极限定理：限失真信源编码定理 编码的概念 * 将信源消息分成若干组，即符号序列xi， xi＝(xi1xi2…xil…xiL)， xil?A={a1，a2，…，ai，…，an} 每个符号序列xi依照固定码表映射成一个码字yi， yi＝(yi1yi2…yil…yiL)， yil?B={b1，b2，…，bi，…，bm} 这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非分组码中则不存在码表。 5.2 无失真信源编码定理 只讨论最简单情况下的信源无失真编码定理：离散、无记忆、平稳、遍历、二（多）进制等（变）长编码条件下的信源编码定理。 * 等长编码定理 x: 输入无记忆符号序列，共L位，每一位有n种可能取值，S为信源编码输出的无记忆符号序列，共K位，每一位有m种取值可能（等概），因K为定值，其相应的编码定理为等长编码定理。 * 无失真等长编码 独立等概信源条件下，为实现无