信道容量6演示文件修改版.ppt

§3.1 单符号离散信道的数学模型 §3.2 单符号离散信道的信道容量 §3.2.1 信道容量的定义 §3.2.2 几种特殊离散信道的容量 §3.2 .3 离散信道容量的一般计算方法 §3.2.1 信道容量的定义 §3.2.2 几种特殊离散信道的容量 一、离散信道 1、一一对应的无噪信道（无噪无损信道） 练习1： P101 第3.14（1）题 练习3： P101 第3.14（2）题 例：对称离散信道 设某对称离散信道的信道矩阵为： 练习4： P99 第3.6 题 例：判断下列矩阵表示的信道是否是对称信道。 相应的 对称离散信道的信道容量 则信道容量为： 三、强对称(均匀)离散信道的信道容量 P：总体错误概率 n X n 为一个常数 相应的 二进制均匀信道容量 C＝1－H(p), 其中 H(p)=-((1-p)log(1-p)+plogp) 二进制均匀信道容量曲线 强对称信道与对称信道比较 行之和为1 行之和，列之和均为1 P与Q未必相等 P=Q 矩阵未必对称 矩阵对称 n与m未必相等 n=m 对称 强对称 * * 信道是传送信息的载体——信号所通过的通道。 信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。 根据信道上有无干扰： 无干扰信道：不存在干扰或噪声的信道，或干扰和噪声可忽略不计的信道； 有干扰信道：存在干扰或噪声的信道。实际信道一般都是有干扰信道。 根据信道的记忆特性： 无记忆信道：信道输出仅与当前的输入有关； 有记忆信道：信道输出不仅与当前输入有关，还与过去的输入有关。 根据信道输入、输出随机变量个数： 单符号信道：输入和输出端都只用一个随机变量来表示； 多符号信道：输入和输出端用随机变量序列或随机矢量来表示。 根据信道的输入输出个数： 单用户信道：只有一个输入端和一个输出端，信息只朝着一个方向（单向）传输； 多用户信道：输入端和输出端至少有一端存在两个以上用户，信息在两个方向上（双向）都可以传输。 根据输入输出事件的时间特性和集合的特点： 离散信道：输入离散，输出离散； 连续信道：输入连续，输出连续； 半连续信道：输入和输出一个离散一个连续； 时间离散的连续信道：输入和输出分别为有限个或可数无限个取自连续集的序列 波形信道：输入和输出都是连续随机信号。 信道矩阵为n行m列矩阵。 H(X)-H(X/Y) H(Y)-H(Y/X) 第三章 信道容量 单符号离散信道的数学模型 单符号离散信道的信道容量 多符号离散信道的信道容量 信道编码定理 P(Y/X) x Y 信道的数学模型： {X P(Y/X) Y} 信道的分类 无干扰信道 有干扰信道 信道的分类 有记忆信道 无记忆信道 信道的分类 单符号 信道 多符号 信道 信道的分类 单用户信道 多用户信道 信道的分类 连续信道 半离散信道 离散信道 p(bi/ai) x Y i=1,2,…n 信道转移概率矩阵： 信道容量 an bn a1 b1 a2 b2 …… a1 b1 a2 b2 an-1 bn-1 an bn …… 由于X、Y一一对应，所以有： a1 b1 b2 b3 2、具有扩展性能的无噪信道（有噪无损信道） a2 b4 b5 b6 a3 b7 b8 此时，损失熵 H(X/Y)=0，但H(Y/X) 0， 且 H(X) H(Y)。 此时， 一个输入对应多个输出 练习2： P101 第3.14（3）题 3、具有归并性的无噪信道（无噪有损信道） x1