信道容量 第三时章—2.ppt

信道容量 第三章—2 3.1 信道的基本概念 3.2 单符号离散信道的信道容量 3.3 多符号离散信道的信道容量 3.4 连续信道 3.5 信道编码定理 3.2 单符号离散信道的信道容量 3.2.1 信道容量的定义 3.2.2 几种特殊离散信道的信道容量 I 离散无噪信道的信道容量 II 对称离散信道的信道容量 III 准对称离散信道的信道容量 3.2.3 离散信道容量的一般计算方法 信道 信道：信息传输的通道 单符号离散信道容量的定义 单符号离散信道容量的定义 信道容量C： 最大的信息传输率 3.2 单符号离散信道的信道容量 3.2.1 信道容量的定义 3.2.2 几种特殊离散信道的信道容量 I 离散无噪信道的信道容量 II 对称离散信道的信道容量 III 准对称离散信道的信道容量 3.2.3 离散信道容量的一般计算方法 I-1 一一对应关系的无噪信道 设信道的输入X∈A={a1 … an},输出Y∈B={b1 … bm} 输入和输出符号之间有确定的一一对应关系 I-1 一一对应关系的无噪信道 I-1 一一对应关系的无噪信道 由 I-2 扩展性能的无噪信道 一个输入对应多个输出(n＜m) I-2 扩展性能的无噪信道 一个输入对应多个输出(n＜m) I-3 归并性能的无噪信道 多个输入变成一个输出(n＞m) I-3 归并性能的无噪信道 多个输入变成一个输出(n＞m) II 对称离散信道的信道容量 对称离散信道： 对称性: 每一行都是由同一集{q1, q2,…qm}的诸元素不同排列组成——输入对称 每一列都是由{p1, p2,…pn}集的诸元素不同排列组成——输出对称 II 对称离散信道的信道容量 信道矩阵 II 对称离散信道的信道容量 对称离散信道的平均互信息为 II 对称离散信道的信道容量 对称DMC信道的容量： 某对称离散信道的信道矩阵为 III 准对称离散信道的信道容量 III 准对称离散信道的信道容量 准对称信道矩阵 求其信道？ 一般离散信道容量的计算步骤 小 结 第三章—2 小 结 回顾了单符号离散信道的数学模型和信道容量的定义。 分析了各类离散信道的信道容量。 本次课结束！ 准对称信道 - 若信道矩阵的行是可排列的，但列不可排列 - 如果把列分成若干个不相交的子集，且由n行 和各子集的诸列构成的各个子矩阵都是可排列 的 例: 信道容量 假设此时将矩阵的列分为S个子集，每个子集的元素个数分别是m1，m2，……，ms。 例3-2: 3.2.3 离散信道容量的一般计算方法 * * * * * * 内容 回顾——1.信道的基本概念 信 道 输入量X (随机过程) 输出量Y (随机过程) p(Y|X) 一般信道的数学模型 回顾——2.单符号离散信道容量的定义 p(yj /xi) X Y i=1,2,…n 信道 转移 概率 矩阵 单位时间的信道容量： 3.2 单符号离散信道的信道容量 3.2.2 几种特殊离散信道的信道容量 I、离散无噪信道的信道容量 X a1 b1 Y a2 b2 a3 b3 1 1 1 X a1 b1 Y a2 b2 an-1 bn-1 an bn 1 1 计算得： 噪声熵H(Y|X) = 0 损失熵H(X|Y) = 0 X b1 Y a1 b2 b3 a