第三章 信道容量 信息论和 与编码 课件.pptVIP

苗立刚 ligangmiao@ 实验楼417 电话8048018;第三章 信道容量;3.1单符号离散信道的数学模型; 信道的分类 ;4、根据信道上有无噪声(干扰) ： 有噪(扰)信道 无噪(扰)信道 5、根据信道有无记忆特性 无记忆信道---输出仅与当前输入有关，与先前输入无关 有记忆信道---输出不仅与当前输入有关，还与先前输入有关;反信道矩阵（m行n列）;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;信息传输速率Rt: 单位时间内平均传输的信息量;例：对于二元对称信道;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量; 强对称离散信道(均匀信道);3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量; 离散对称信道的信道容量 定理：如果一个离散对称信道具有n个输入符号，m个输出符 号，则当输入为等概率分布时，达到信道容量C。;准对称离散信道 信道矩阵的行可排列，列不可排列 但把该矩阵在水平方向上分割， 则各子矩阵皆具可排列性 [例] [关键]——H(Y)最大(改变p(xi)时); 离散信道容量的一般计算方法(自学)—P81;3.2单符号离散信道的信道容量;I(X;Y)最大值;3.2单符号离散信道的信道容量;3.2单符号离散信道的信道容量;解之得：;3.3多符号离散信道的信道容量;3.3多符号离散信道的信道容量; 信道矩阵;3.3多符号离散信道的信道容量; 若多符号离散信道的转移概率满足 则称之为离散无记忆信道的N次扩展信道 [解释]扩展信道的转移概率 =各时刻单符号信道转移概率的连乘 无记忆性——k时刻输出Yk只与k 时刻输入Xk有关, 与k时刻之前输入X1X2… Xk-1无关 无预感性——k时刻之前输出Y1Y2… Yk-1只与k时刻之前输 入X1X2… Xk-1有关，与Xk无关 [结论] 离散无记忆N次扩展信道——无记忆，无预感;3.3多符号离散信道的信道容量;相减可得;3.3多符号离散信道的信道容量;3.3多符号离散信道的信道容量;3.6信道编码定理;作业： 3.1 (P99); 3.2 (P99)； 3.11 (P100); 3.14 (P101); 3.15 (p101);