关于DMC容量与AWGN信道容量.pptVIP

* 信道容量 * 本讲框架体系 信道容量 离散信道 容量及性质 连续信道容量 DMC容量 AWGN信道容量 离散无记忆信道DMC 离散信道容量及性质 离散信道，输入输出时间上离散，取值上取有限个值 输入序列 输出序列 * 离散信道容量及性质 输入输出随机序列互信息 离散信道容量定义： 其中： 表示不同的输入分布 性质： 1. 2. 是关于 的连续上凸(concave)函数 * 返回 离散无记忆信道（DMC） DMC---Discrete Memoryless Channel 若离散信道对任何N有： 称该信道为离散无记忆信道（DMC）。 以 表示。 * 离散无记忆信道（DMC） 对任意n与m有： 则称该信道是平稳的或恒参的，此时信道特性与时间无关。 以 简化表示。 * 返回 DMC容量 对于离散无记忆信道 其中等号在输入为独立随机序列时达到。 证明如下： 输入序列 输出序列 DMC * DMC容量 知： 由于： * DMC容量 所以： 当输入序列是独立随机序列时 * DMC容量 这时： 当输入序列为独立随机变量时，输出序列亦然。 * DMC容量 此时： 从而： 因此，对DMC来说，当输入是独立随机变量时： * DMC容量 对恒参信道和平稳信源来说： 因此，得到离散无记忆信道容量为： 其中 为X的概率分布。 * 返回 AWGN信道容量 AWGN---Additive White Gaussian Noise 高斯信道： 其中 和 为独立随机变量 定义：在功率限制P之下，高斯信道容量定义为 高斯信道容量是互信息 在一切均方值受限的输入随机分布上的极大值。 * AWGN信道容量 由定义计算高斯信道容量： 因为： * 证明 正态分布微分熵 证明： * AWGN信道容量 所以： 以上不等式成立是由于 当Y是高斯随机变量时等号成立。 * AWGN信道容量 由于当X为高斯变量时，Y也为高斯变量，于是 即：当X为正态分布， 时，达到信道容量。上式表明，在加性高斯信道上信号采用高斯噪声形式是最有效的。 * * *