离散信道ppt演示文稿.pptVIP

信息论与编码理论第4章 离散信道;4.1 离散信道的数学模型;4.2 信道的分类;几种特殊信道;4.3 离散无记忆信道4.3.1 离散信道的数学模型;例4-3;二进制对称信道 简称为BSC（Binary Symmetric Channel） 二元：输入和输出符号集均为{0,1} 对称：1变成0和0变成1的概率相等。 p(0|0)=p(1|1)=1-p，p(0|1)=p(1|0)=p BSC的信道矩阵：;4.3.2 信道疑义度和噪声熵;;4.3.3 平均互信息;两个定理;平均互信息的例子;;假设串联的两个信道为信道I和信道II，信道I的传递概率为p(y|x)，信道II的传递概率为p(z|xy)。 定理4-3 若随机变量X,Y,Z构成一个马尔可夫链（p(z|xy)=p(z|y)），则有 I(X;Z)≤I(X;Y) I(X;Z)≤I(Y;Z) 定理4-3叫做数据处理定理，它的含义是通过串联信道的传输，只会丢失信息，不会增加信息，至多保持原来的消息量。这是信息不增性原理。;例4-7 两个二元对称信道串联;例4-8 信道I和信道II的信道矩阵分别为 X,Y,Z构成一个马尔可夫链，则;4.5 信道容量4.5.1 信息传输率;4.5.2 信道容量;信道容量的例子（例4-10）;4.5.3 三种特殊信道的信道容量;无噪无损信道;有噪无损信道;无噪有损信道;4.