信息论与编码-曹雪虹-课后习题答案.docVIP

3.1 设二元对称信道的传递矩阵为 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布； 解： 1) 2) 其最佳输入分布为 3.5 求下列二个信道的信道容量，并加以比较 （1） （2） 其中p+=1 解： （1）此信道是准对称信道，信道矩阵中Y可划分成三个互不相交的子集 由于集列所组成的矩阵,而这两个子矩阵满足对称性，因此可直接利用准对称信道的信道容量公式进行计算。 C1=logr-H(p1’ p2’ p3’)- 其中r=2,N1=M1=1-2 N2= M2=4 所以 C1=log2-H(,p-ε,2ε)-(1-2)log(1-2)-2log4 =log2+()log()+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε =log2-2εlog2-(1-2ε)log(1-2ε)+()log()+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+()log()+(p-)log(p-) 输入等概率分布时达到信道容量。 （2）此信道也是准对称信道，也可采用上述两种方法之一来进行计算。先采用准对称信道的信道容量公式进行计算，此信道矩阵中Y可划分成两个互不相交的子集，由子集列所组成的矩阵为，这两矩阵为对称矩阵 其中r=2,N1=M1=1-2 N2=M2=2，所以 C=logr-H(-,p-ε,2ε,0)- =log2+(-)log(-)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε =log2-(1-2ε)log(1-2ε)+( -)log(-)+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+2εlog2+(-)log(-)+(p-ε)log(p-ε) =C1+2εlog2 输入等概率分布（P（a1）=P（a2）=1/2）时达到此信道容量。比较此两信道容量，可得C2=C1+2εlog2 3. 9 在图片传输中，每帧约有2.25(106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB）。 解： 4.2 某二元信源其失真矩阵为求这信源的Dmax和Dmin和R(D)函数。 解： 因为二元等概信源率失真函数： 其中n = 2, 所以率失真函数为： 4.3 一个四元对称信源，接收符号Y = {0, 1, 2, 3}，其失真矩阵为，求Dmax和Dmin及信源的R(D)函数，并画出其曲线（取4至5个点）。 解： 因为n元等概信源率失真函数： 其中a = 1, n = 4, 所以率失真函数为： 5-1 将下表所列的某六进制信源进行二进制编码，试问： 消息 概率 u1 u2 u3 u4 u5 u6 1/2 1/4 1/16 1/16 1/16 1/16 000 001 010 011 100 101 0 01 011 0111 01111 011111 0 10 110 1110 11110 111110 0 10 1101 1100 1001 1111 1 000 001 010 110 110 01 001 100 101 110 111 这些码中哪些是唯一可译码？ 哪些码是非延长码？ 对所有唯一可译码求出其平均码长和编译效率。 解：首先，根据克劳夫特不等式，找出非唯一可译码 不是唯一可译码，而： 又根据码树构造码字的方法 ，，的码字均处于终端节点 他们是即时码 5-2 (1) 因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为H(X)=log(4)=2 平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 H(X)= =0.198bit/ms=198bit/s 5-5 (1) H(U)= (2) 每个信源使用3个二进制符号,出现0的次数为 出现1的次数为 P(0)= P(1)= (3) (4) 相应的香农编码 信源符号xi 符号概率pi 累加概率Pi -Logp(xi) 码长Ki 码字 x1 1/2 0 1 1 0 x2 1/4 0.5 2 2 10 x3 1/8 0.75 3 3 110 x4 1/16 0.875 4 4 1110 x5 1/32 0.938 5 5 11110 x6 1/64 0.969 6