信息论3--第3章1.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 信息论与编码 * * 西北大学信息学院 信道容量 定理： 给定转移概率矩阵P后,平均互信息I (X;Y)是输入信源的概率分布p(ai)的 型上凸函数。 定理： 平均互信息I (X;Y)是信道传递概率p(bj|ai)的 型凸函数。 信道容量是完全描述信道特性的参量,是信道能够传输的最大信息量。 信息论与编码 * * 西北大学信息学院 当信源输入符号的速率为rs(符/秒),信道容量 BSC信道容量 实际信息传输速率Rt为 进入信道输入端的信息速率 信息论与编码 * * 西北大学信息学院 串联信道 例3-3 设有两个离散BSC信道,串接如图,两个BSC信道的转移矩阵为: X0 0Z Y 1 1 1-p 1-p 1-p p 串联信道的转移矩阵为: 1-p p 信息论与编码 * * 西北大学信息学院 串联信道 X0 0Z Y 1 1 求得: 在实际通信系统中,信号往往要通过几个环节的传输,或多步的处理,这些传输或处理都可看成是信道,它们