第3章 信道容量-3.pptx

第3章 信道容量;第3章 信道容量;第3章 信道容量;定义;根据信道是否具有记忆特性，可将信道划分为：;为简化起见，本课程只研究平稳无记忆信道。;单符号信道即为平稳无记忆信道。;多符号信道的数学模型;不一定等于1;单符号信道;练习：求二元对称信道三次扩展信道的信道矩阵;若离散无记忆信道的输入和输出分别是N长序列，则平均互信息量满足：;再看第二项：;类似地，可证明：;;证明：当;综合前面的分析，可得如下重要结论：;第3章 信道容量;3.4.1 独立并联信道;离散无记忆信道N次扩展信道的结论可推广到独立并联信道。;3.4.2 级联(串联)信道;对于级联信道，总的信道矩阵等于各级信道矩阵 的连乘积。(注意乘积顺序);级联后的等效信道也是二元对称信道。;例3.4.2 把 个离散二元对称信道级联起来，要求证明 该信道可以等效于一个二元对称信道，其错误传递概 率为 。并证明当 时，且 时有：;证：当 时，;得证;第3章 信道容量;3.5.1 连续信道信道容量的定义;离散信道 信道容量：;问题：离散信道一般求取原则是否适用于连续信道？;3.5.2 加性连续信道信道容量的求取;证明：对于加性连续信道，其信道转移特性为噪声的 概率密度，即： 。;回忆：第二章中为什么把 叫做噪声熵？;;常见限定条件：;3.5.3平均功率受限条件下高斯信道的信道容量;根据高斯分布的概率密度 可计算出;其中：;问题：在信源平均功率受限的条件下, 何时 最大？;根据第二章中连续信源的相关结论, 有:;设信道的频带为 ，则每秒需进行 次采样，在接收端才可无失真地恢复出原始信号。;通信原理中还将学习高斯白噪声的概念。所谓高斯白 噪声是指功率谱密度为常数( )，而在一个频带为 的信道中，噪声的平均功率为:;例3.5.1 在图片传输中，每帧约为 个像素， 为了能很好地重现图像，需分16个亮度电平，并假 设亮度电平等概分布。试计算每秒钟传送30帧图片 所需信道的带宽（功率信噪比为 ）。; 必须指出的是，尽管香农公式在推导过程中附加了很多限制条件，如：高斯加性信道，信号与噪声独立，信号的平均功率受限等等。但是，实践表明，多数情况下，实际信道可认为是符合或者近似符合这些特点的。因此，香农公式具有非常普遍的意义。;香农公式：;比较：;3. 无噪连续信道的信道容量为无穷大。;信道容量随信道带宽的变化;设传输时间为 , 则总信息量 。 ;例3.5.3 若要保持信道的信息传输率 比特/秒, 当信道的带宽 从 降低到 ，求信号 功率所需提高的倍数。;设传输时间为 , 则总信息量 。 ;(3) 若保持信道的带宽 不变， 可通过花费较长的时 间 降低所需要的信噪比(① 可以变大，系统可以 工作在噪声更恶劣的环境下或者远距离通信中; ② 可 降低对通信发射设备功率的要求)；或者通过提高发 射功率 加快传输时间 。;第3章 信道容量;若有一离散无记忆平稳信道，其信道容量为 。输入 序列长度为 ，只要待传送的信息率 ，总可以找 到一种编码，当 足够长时，译码差错概率 ， 为所指定的任意大于零的正数。反之，当 时， 任何编码的 必大于零，当 时， 。 ;信道容量 表示的是信道的极限信息传输能力。 如果要求的信息传输速率超过了 ，无法实现无 失真传输；否则，则总可以找到某种方法实现近 乎无失真的传输。;通过刚才的分析，只要 , 理论上就可实现近乎无失真地传输。但具体如何来实现呢？香农先生只给出了大的指导方向，即通过编码的方法。具体而言，就是增加信道符号序列的长度。;作业;;;;;问题：最大值如何计算？计算依据是什么？;;;由于信源概率分布必须满足归一化条件。因此，对平均互信息量的最大值的计算就转化为在归一化条件下，计算信源概率分布的条件极值问题。;;;(2