第13讲离散无记忆信源的不等长编码定理167.pptVIP

3.4 变长编码定理 1、 变长码与变长信源编码定理 定理1 若一个离散无记忆信源X具有熵为H(X)，对 它的r个码元的码符号集 则总可找到一种无失真编码方法，构成惟一可译码， 使其平均码长满足 定理2(申农第一定理) ：离散无记忆信源X的N次扩 展信源 ，其熵为 ， 并有码符号集 A＝{a1,…,ar} 。 对信源进行编码，总可以找到一种编码方法，构成唯 一可译码，使信源X中每个信源符号所需的平均码长满 足 或者 * 第四节 变长编码定理 1、变长编码定理 2、变长编码的编码速率、编码效率 码 奇异码 非分组码 分组码 非奇异码 非唯一可译码 非即时码 即时码(非延长码) 唯一可译码 唯一可译码存在的充分和必要条件 各码字的长度ki 应符合克劳夫特不等式： n:码元进制数；r:信源符号数； ki:各个码字的长度 等长编码中： 每个码字的长度是固定的，都为n. 不等长编码中： 每个码字wi有其不同的码字长度，记为ni. 设符号xi对应的概率为pi，编码后的码字为wi，码长为ni 则称 为该编码的平均码长。 * * *