信息论习题答案.docxVIP

精品文档 精品文档 PAGE PAGE7 精品文档 PAGE X x1 x2 1．设信源P(X) 0.6 0.4通过一干扰信道，接收符号为 Y={y1,y2}，信道 1 6 3 转移矩阵为 4 4，求： 信源X中事件x1和事件x2分别包含的自信息量； 收到消息yj(j=1,2)后，获得的关于xi(i=1,2)的信息量； 信源X和信宿Y的信息熵； 信道疑义度H(X/Y)和噪声熵H(Y/X)； 接收到信息Y后获得的平均互信息量。 解： 1) I(x1) log2 p(x1) log20.6 0.737 bit I(x2) log2 p(x2) log20.4 1.322 bit 2) p(y1) p(x1)p(y1/x1) p(x2)p(y1/x2) 5 0.4 1 0.6 0.6 6 4 p(y2) (x1;y1)I(x1;y2)I(x2;y1)I(x2;y2)  p(x1)p(y2/x1) p(x2)p(y2/x2)0.6 1 0.43 0.4 p(y1/x1) 5/6 6 4 log2 log2 0.474bit p(y1) 0.6 log2 p(y2/x1) log2 1/6 1.263 bit p(y2) 0.4 log2 p(y1/x2) log2 1/4 1.263 bit p(y1) 0.6 log2 p(y2/x2) 3/4 0.907 bit p(y2) log2