信息论与编码理论-信道容量-习题解答-071102.docxVIP

第3 第3章信道容量 信息论与编码理论 信息论与编码理论 PAGE PAGE # PAGE PAGE # 第3章信道容量 习题解答 3-1设二进制对称信道的转移概率矩阵为|2/3 1/3 TOC \o 1-5 \h \z H / 3 2/3 解:(1) 若 P(ai) =3/4, P(a2)=1/4，求 H (X),H (Y ) ,H (X |Y ) ,H Y |X 和 (X ;Y)。 1一)=0.8113( bit / 1 一)=0.8113( bit / 符号) 4 H (X )= _ p(a i )log p(a i) = 一一 log(—)— — log( i