信息论与编码第三章(1、2节练习).pptVIP

2、信道参数及信道容量的计算 p(y/x)  1、信道的定义及分类 例： 有一个二元对称信道，其信道矩阵如下图所示。设 该信道以1500个二元符号/秒的速度传输输入符号。 现有一消息序列共有14000个二元符号，并设在这消 息中P(0)=P(1)=1/2。问从信息传输的角度来考虑， 10秒钟内能否将这消息序列无失真地传送完？ 解： 消息是一个二元序列，且为等概率分布，即 P(0)=P(1)=1/2， 故信源的熵为： H(X)=1(比特/符号) 则该消息序列含有的信息量为14000(比特/符号) 下面计算该二元对称信道能传输的最大的信息传输速率： 信道传递矩阵为： 信道容量（最大信息传输率）为： C=1-H(P)=1-H(0.98，0.02)≈0.8586比特/符号 得最大信息传输速率为： Rt ≈1500符号/秒× 0.8586比特/符号 ≈1287.9比特/秒 ≈1.288×103比特/秒 此信道10秒钟内能无失真传输得最大信息量＝ 10× Rt ≈ 1.288×104比特 可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。 例： 若已知信道输入分布为等概率分布，且有如下两个信 道，其转移概率矩阵分别为： 试求这两个信道的信道容量，并问这两个信道是否有噪 声？（思考方法） 例： 二元删除信道 香农公式说明 当信道容量一定时，增大信道带宽，可以降低对信噪功率比的要求；反之，当信道频带较窄时，可以通过提高信噪功率比来补偿。 当信道频带无限时，其信道容量与信号功率成正比。 * * 上节课回顾 3、不同信道模型的信道容量的具体计算 a、对称DMC信道（BSC信道） b、准对称DMC信道 c、几种特殊的确定信道 二元删除信道如图，输入符号x ? {0 , 1}，输出符号y ? {0 , e , 1}，转移概率矩阵为 1-p 0 p 1 0 1 1-p p 确定其信道容量？（课堂练习） 连续信道——高斯白噪声加性信道单位时间内信道容量