大学第3章离散信源无失真编码.pptVIP

一般地，对于D2的D进制霍夫曼编码，先根据 D*∈{2，3，…，D} （3-31） 和 D*= M mod (D-1) （3-32） 算出D*，即最长的码字数为 D*，第一次取D*个概率合并，以后每次取D个概率合并。 记 为信源每个符号所对应的平均码字数，则式(3-23)为 （3-24） Shannon第一定理的物理意义在于：对信源进行编码，使编码后的码集中各码字尽可能等概分布，如果将这码集看成为一个新的信源，这时新信源所含信息量最大。 定义编码效率 (3-26) η是一个无量纲的数，一般情况下η1，在极限情况下η=1。 上一讲复习 上一讲我们主要讨论了在不允许失真前提下对信源的编码，分为两种情况，等长编码和变长编码。等长编码定理和变长编码定理分别给出了这两种情况，在无失真和码长尽可能短这两个约束条件下的平均码长的上界和下界。 等长编码定理 记H（X）为单符号信源熵，L为扩展信