信息论总复习重点分析.doc

第一章作业题 1. 设二元对称信道的传递矩阵为 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布； 解：(1) ? 2) 2. 设有一批电阻，按阻值分70%是2KΩ，30%是5 KΩ；按瓦分64%是0.125W，其余是0.25W。现已知2 KΩ阻值的电阻中80%是0.125W，问通过测量阻值可以得到的关于瓦数的平均信息量是多少？ 解： 对本题建立数学模型如下： 以下是求解过程： ? 3. 试求以下各信道矩阵代表的信道的容量： 解：(1) 这个信道是无噪无损信道： (2) 这个信道是无噪有损信道 (3) 这个信道是对称的离散信道 (4) 这个信道是对称的离散信道 4. 有一个二元对称信道，其信道矩阵为 设该信源以1500二元符号/秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设P(0) = P(1) = 1/2，问从消息传输的角度来考虑，10秒钟内能否将这消息序列无失真的传递完？ 解：信道容量计算如下： 也就是说每输入一个信道符号，接收到的信息量是0.859比特。已知信源输入1500二元符号/秒，那么每秒钟接收到的信息量是： 现在需要传送的符号序列有14000个二元符号，并设P(0)