信息论测试题及答案.docVIP

PAGE 一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等.定义另一个二元随机变量Z，取Z=YX(一般乘积）.试计算： 1.H（Y)、H（Z)； 2.H（YZ）； 3。I(X;Y）、I（Y；Z); 二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 3. 求极限熵； 三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4，P(1）=3/4，试求: 信道转移概率矩阵P 2。信道疑义度 3.信道容量以及其输入概率分布 四、某信道的转移矩阵，求信道容量,最佳输入概率分布。 五、求下列各离散信道的容量(其条件概率P（Y/X)如下:） 六、求以下各信道矩阵代表的信道的容量 答案 一、设X、Y是两个相互统计独立的二元随机变量，其取—1或1的概率相等.定义另一个二元随机变量Z，取Z=YX（一般乘积）.试计算： 1。H（Y）、H（Z)； 2.H(XY）、H（YZ）; 3。I（X;Y）、I(Y;Z）； 解:1. =1bit/符号 Z=YX而且X和Y相互独立 = = 故H(Z）= =1bit/符号 2。从上式可以看出：Y与X的联合概率分布为: P（Y,Z) Y=1 Y=-1 Z=1 0。25 0。25 Z=—1 0。25 0。25 H（YZ）=H（X)+H