第三章信道容量——信息论与编码研究.ppt

信噪功率比 高斯加性连续信道 * 香农公式 (bit/s) 香农公式 PN －功率谱密度 W －带宽 Px－信号功率 信噪功率比 Px/ PN=＝ Px/ N0W * 香农公式的讨论 (bit/s) ? 带宽一定时，信噪功率比与信道 容量成对数关系 当输入信号功率一定，增加带 宽，容量可以增加 * 频带利用率：单位频带的信息传输速率 C t 一定时，带宽 W 增大，信噪功率比可降低， 即两者是可以互换的。 信道容量可以通过系统带宽与信噪比的互换而保持不变 * 例：如果SNR=7，W=4000Hz，则可得 C=12×103 b/s； 但是，如果 NR=15,W=3000Hz，则可得同样 C 值。 信噪比和带宽的互换性在通信工程中有很大的用处。 例如，在宇宙飞船与地面的通信中，飞船上的发射功 率不可能做得很大，因此可用增大带宽的方法来换取 对信噪比要求的降低。相反，如果信道频带比较紧 张，如有线载波电话信道，这时主要考虑频带利用 率，可用提高信号功率来增加信噪比， 或采用多进制 的方法来换取较窄的频带。 * 3.6 信道编码定理（香农第二定理） 若有一离散无记忆平稳信道，其容量为C，输入序列长度为 L，只要待传送的信息率RC,总可以找到一种编码，当L足 够长时，译码差错率Peε，ε为任意正数，反之，当RC， 任何编码的Pe必大于0，当L→∞，Pe→1 结论：C是临界值 * 第 3 章 小结 重点掌握 信道容量的概念 对称 DMC 信道容量的计算 准对称 DMC 信道容量的计算 限时限频限功率加性高斯白噪声信道容量的计算 一般掌握 信道模型及其分类 了解 一般 DMC 信道、离散序列信道的容量 * C = max I ( X ; Y ) = log n 无噪无损信道 p ( a i ) C = max I ( X ; Y ) = max H ( Y ) = log m 无噪有损信道 p ( a i ) 对称 DMC 信道 强对称信道 准对称 DMC 信道 限时限频限功率加 性高斯白噪声信道 信道矩阵 中行矢量 * 二进制对称信道（ BSC ） 二进制对称信道的信道容量 C = 1 - H ( p ) * 三、对称离散信道的信道容量 矩阵中的每列都 是集合P = {p1,p2, ……, pn} 中的诸元素的不同排列，称矩阵的列是可排列的。 矩阵中的每行都是集合Q = {q1, q2, ……,qm}中的诸元素的不同排列，称矩阵的行是可排列的。 * 如果矩阵的行和列都是可排列的， 称矩阵是可排列的。 如果一个信道矩阵具有可排列性， 则它所表示的信道称为 对称信道中，当nm时，P是Q的子集； 当nm，Q是P的子集；当n=m时，P=Q。 对称信道 对称离散信道 * 输入对称 如果转移概率矩阵 P 的每一行都是第一行的置 换 ( 包含同样元素 ) ，称该矩阵是输入对称。 输出对称 如果转移概率矩阵 P 的每一列都是第一列的置 换 ( 包含同样元素 ) ，称该矩阵是输出对称。 对称信道 输入、输出都对称。 23 对称离散信道 * 练习：判断下列矩阵表示的信道是否是对称信道 * 相应的 对称离散信道的信道容量 * 例： 某对称离散信道的信道矩阵为 信道容量为: * 强对称信道与对称信道比较： 强对称 对称 n=m n与m未必相等 矩阵对称 矩阵未必对称 P=Q P与Q未必相等 行之和，列之和均为1 行之和为1 * 四、准对称信道离散信道的信道容量 　　若信道矩阵的行是可排列的，但列不可排列，如果把列分成若干个不相交的子集，且由n行和各子集的诸列构成的各个子矩阵都是可排列的，则称相应的信道为准对称信道。 例如下面的矩阵： * 准对称 信道 转移概率矩阵 P 是输入对称而输出不对称，即 P 的每 一行都包含同样的元素而各列的元素可以不同。 准对称信道的信道容量 由 I ( X;Y ) 表达式 1 求其极大值 公式法 2 * 公式法 将信道矩阵分成若干个互不相交的对称的子集 * 例： * 例题 * 　　假设此时将矩阵的列分为S个子集，每个子集的元素个数分别是m1，m2，……，ms。 例题 * 例题 * 多符号离散信道数学模型 多符号离散信道 多符号信源通过离散信道传输形成多符号离散信道。 * 多符号离散信道的数学模型 有 个元素 * 信道矩阵 * 1 Y N Y 离散无记忆信道的N次扩展信道 * 离散无记忆信道的N次扩展信道 无记忆：YK仅与XK有关 * *