信息与编码论习题解前六章.docVIP

信息与编码理论习题解 2.1解: 平均每个符号长为:秒 每个符号的熵为比特/符号 所以信息速率为比特/秒 2.3 解:(a)一对骰子总点数为7的概率是所以得到的信息量为 比特(b) 一对骰子总点数为12的概率是所以得到的信息量为 比特 2.5 解:易证每次出现i点的概率为,所以 2.9 2.12解:令X=X1,Y=X1+X2,Z=X1+X2+X3,H(X1)=H(X2)=H(X3)= 比特H(X)= H(X1) = =2.585比特 H(Y)= H(X2+X3) = = 3.2744比特 H(Z)= H(X1+X2+X3) = = 3.5993比特 所以 H(Z/Y)= H(X3)= 2.585 比特 H(Z/X) = H(X2+X3)= 3.2744比特 H(X/Y)=H(X)-H(Y)+H(Y/X) = 2.585-3.2744+2.585=1.8955比特 H(Z/XY)=H(Z/Y)= 2.585比特 H(XZ/Y)=H(X/Y)+H(Z/XY)=1.8955+2.585 =4.4805比特 I(Y;Z)=H(Z)-H(Z/Y)=H(Z)- H(X3)= 3.5993-2.585=1.0143比特 I(X;Z)=H(Z)-H(Z/X)=3.5993- 3.2744=0.3249比特 I(XY?;Z)=H(Z)-H(Z/XY) =H(Z)-H(Z