第3章 习题解答#.pptVIP

第3章 信道容量—习题课 习题3.1 习题3.2 习题3.3 习题3.4 习题3.6 习题3.7 习题3.1—题目 设信源 通过一干扰信道，接收符号为 Y = { b1, b2 }，信道转移矩阵为 ，求： (1) 信源X中事件a1和事件a2分别包含的自信息量； (2) 收到消息bj (j=1,2)后，获得的关于ai (i=1,2)的信息量； (3) 信源X和信宿Y的信息熵； (4) 信道疑义度H(X/Y)和噪声熵H(Y/X)； (5) 接收到信息Y后获得的平均互信息量。 习题3.1—答案 解： （1）事件a1和事件a2分别包含的自信息量为： 习题3.1—答案（续） （2） 习题3.1—答案（续） （3） 习题3.1—答案（续） （4）信道疑义度H(X/Y)和噪声熵H(Y/X)分别为： 习题3.1—答案（续） （5）接收到信息Y后获得的平均互信息量为： 习题3.2—题目 设二元对称信道的传递矩阵为 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布。 习题3.2—答案 解： （1）信源的熵和信道噪声熵分别为： 习题3.2—答案（续） 习题3.2—答案（续） （2）当输入分布为等概分布时达到的信道容量： 习题3.3—题目 设有一批电阻，按阻值分70%是2KΩ，30%是5 KΩ；按瓦分64%是0.125W，其余是0.25W。现已知2 KΩ阻值的电阻中80%是0.125W，问通过测量阻值可以得到的关于瓦数的平均信息量是多少？ 习题3.3—答案 解：首先建立数学模型如下： 习题3.3—答案（续） 习题3.3—答案（续） 习题3.4—题目 若X, Y, Z是三个随机变量，试证明： (1)I(X;YZ) = I(X;Y) + I(X;Z/Y) = I(X;Z) + I(X;Y/Z)； (2) I(X;Y/Z) = I(Y;X/Z) = H(X/Z) – H(X/YZ)； (3)I(X;Y/Z) ≥0，当且仅当(X, Y, Z)是马氏链时等式成立。 习题3.4—答案 (1) I(X;YZ) = I(X;Y) + I(X;Z/Y) 证明： 习题3.4—答案（续） (1) I(X;YZ) = I(X;Z) + I(X;Y/Z) 同理证明： 习题3.4—答案（续） (2) I(X;Y/Z) = I(Y;X/Z) 证明： 习题3.4—答案（续） (2) I(X;Y/Z) = H(X/Z) – H(X/YZ) 证明： 习题3.4—答案（续） (3) I(X;Y/Z) ≥0，当且仅当(X, Y, Z)是马氏链时等式成立。 证明： 习题3.4—答案（续） (3) I(X;Y/Z) ≥0，当且仅当(X, Y, Z)是马氏链时等式成立。 证明： 习题3.6—题目 习题3.6—答案(续) 习题3.6—答案(续) 习题3.7—题目 求下列各离散信道的容量（其条件概率P(Y/X)如下：） （3）非对称信道 （4）准对称信道 习题3.7—答案 (3) 非对称信道 习题3.7—答案（续） 习题3.7—答案（续） 习题3.7—答案（续） (4) 准对称信道 把信道矩阵分解成三个可排列的子矩阵如下： 习题3.7—答案（续） 习题3.7—答案（续） 习题3.8—题目 习题3.8—答案 习题3.12 证明信道疑义度H(X/Y) = 0的充分条件是信道矩阵[P]中每列有一个且只有一个非零元素。 证明： 可知本题要证明 [P]每列有一个且只有一个非零元素=H(X/Y) = 0 取矩阵[P]的第j列，设 ， 而其他 习题3.12 (续) 习题3.14 习题3.18 设加性高斯白噪声信道中，信道带宽3kHz，又设{(信号功率+噪声功率)/噪声功率}=10dB。试计算该信道的最大信息传输速率Ct。 解： 习题3.19 —题目 在图片传输中，每帧约有2.25?106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB）。 习题3.19 —答案 解： 习题3.20 —题目 设电话信号的信息率5.6?104比特/秒，在一个噪声功率谱为N0= 5?10-6 mW/Hz、限频F、限输入功率P的高斯信道中传送，若F=4kHz，问无差错传输所需的最小功率P是多少瓦？若F→∞，则P是多少瓦？ 习题3.20 —答案 解： 已知一个高斯信道，输入信噪比（比率）为3。频带为3kHz，求最大可能传输的消息率。若信噪比提高