信道容量及其计算.pptxVIP

XY1-pa1=0 0=b1pp a2=1 1=b21-p4－1 信道容量1、常见的简单DMC离散信道：二元对称信道 （DSC）：输入符号X取值于{0,1}， 输出符号取值于{0,1}，传递概率为 二元删除信道 （BEC）：输入符号X取值于{ 0, 1}， 输出符号取值于{ 0, 2, 1}，传递概率为p001-p21-q11q0101？2删除信道的必要性 2、 信道容量定义信息传输率：信道中平均每个符号所能传送的信息量。 R = I(X;Y) = H(X)-H(X|Y) （bit/符号） 有时我们需要关心单位时间内（一般为秒为单位）平均传输的信息量，若平均传输一个符号需要 t 秒，则信道每秒平均传输的信息量为（速率） I（X；Y）是输入随机变量的概率分布的上凸函数，所以对于固定的信道，总存在一种信源分布，使传输每个符号平均获得的信息量最大，也就是说，每一个固定信道都有一个最大的信息传输率。 信道容量定义为信道中每个符号所能传递的最大信息量，也就是最大 I (X；Y)值。 此时输入的概率分布称为最佳输入分布。 信道容量C与输入信源的概率无关（C只对应着一种信源概率分布，即最佳概率分布），它只是信道传输概率的函数（不同的转移概率对应不同的信道），只与信道的统计特性有关，所以信道容量是完全描述信道特性的参量。 信道容量表示了信道传送信息的最大能力，这个量在信息论研究中有重