信息与编码理论 第2版 习题及答案 （第4章信源编码）.pdf

习题4答案

4-1设有一个离散无记忆信源

Uu1u2u3u4u5

=

，

P(U)0.40.20.20.10.1

试分别求其二元霍夫曼编码和费诺编码，并求其编码效率。

【解】霍夫曼编码：

符号概率编码过程码字

0

u10.40.40.40.600

01

u20.20.20.40.410

01

u30.20.20.211

01

u0.10.2010

4

1

u50.1011

霍夫曼编码的信源熵：

5

H(U)=−p(u)logp(u)=2.12bit

i2i

i=1

平均码长：

5

Kp(u)K2.2bit

ii

i=1

编码效率：

H(U)

96.3%

K

费诺编码：其费诺编码如下图所示。

信源符号符号概率第1次第2次第3次第4次

码字码长