第12讲——时间离散连续信道的容量2013-5-27.pptVIP

第四章 信道容量 —时间离散的无记忆连续信道 第十二讲 例：双输出高斯信道 考虑在X上带有两个相关观察的可加高斯噪声 信道， 即输出Y=(Y1,Y2)，其中 Y1=X+Z1 Y2=X+Z2 并对X的功率限定为P，以及(Z1,Z2)~N2(0,K), 其中 求该信道的容量。 作业：4.14 * * 无记忆信道 恒参（平稳）信道 时间离散的连续信道 信道容量 可加噪声信道 若连续信道的条件概率密度满足 就称它为可加噪声信道，其中 称作加性噪声。 X与Z相互独立 可加噪声信道容量 噪声熵 在加性噪声信道情况下，当信道 给定，即干扰噪声的概率密度 给定。那么求信道容量就在于对所有的输入分布求 的最大值。 可加噪声信道容量 噪声熵 在加性噪声信道情况下，当信道 给定，即干扰噪声的概率密度 给定。那么求信道容量就在于对所有的输入分布求 的最大值。 【例】已知条件：给定一个可加噪声信道 （1）干扰z与信道输入x相互独立 （2） ，即 （3） ，即 求信道输入和输出之间的平均互信息？ 【解】由已知，信道输出y是两个正态分布的叠加，因而 ，于是信道输入输出之间的互信息量为 【注】：当信道干扰给定下，若输入功率不受限制， I(X;Y)可为任意大。 定理1 平均功率受限的时间离散、恒参、可加高斯噪声 信道的容量为 平均功率受限的可加噪声信道容量 其中，S是输入平均功率的上限， 是均值为0的高斯噪声的方差。最佳输入分布就是均值为0、方差为S的高斯型分布。 平均功率受限的可加噪声信道容量 证明 对可加噪声信道有 （X与Z独立） 要使I(X;Y)最大，即要 最大，从而 此时有 从而可得 要使Y正态分布， 平均功率受限的可加噪声信道容量 定理2（平均功率受限的可加非高斯噪声信道） 平均功率受限、时间离散、恒参、可加噪声信道的容量 其中， 是Z的熵功率。 在给定噪声功率情况下，高斯干扰是最坏的干扰，在它的作用下的信道容量最小。如果信道干扰统计特性未知，把干扰看作高斯分布比较安全。 【注】 证明： 在可加噪声下，信道输出功率为 输出熵为 由 可知 即上限成立。 平均功率受限的可加噪声信道容量 平均功率受限的可加噪声信道容量 熵功率不等式 对于集合X,Y,Z,若 ,且X,Z是相互独立、均值为0，则 若选择输入功率为S 的高斯信号x，由上不等式左边部分，有 从而 即下限成立。 平行可加高斯噪声信道容量 最佳分布为各个输入符号相互独立，并保证每个符号的输入分别最佳。 N个独立并行信道的组合 平行可加高斯噪声信道容量 若各时刻上的噪声都是均值为0，方差为 的高斯噪声，此时信道容量为 当且仅当输入信号X各分量统计独立，并都是均值 为0，方差为S的高斯变量时等号成立。 若各时刻上的噪声仍是均值为0，但方差为不同的高斯噪声时，情况怎样呢？ 平行可加高斯噪声信道容量 若信道输入为 ，输出为 信道干扰 z~ , ，则信道容量为 约束条件为 当输入各分量服从 时达到信道容量。 应该如何取值，才能使 在约束条件 下取最大值？ 问题： 平行可加高斯噪声信道容量 并行可加高斯噪声（AWGN）信道的组合信道的容量 其中， 是噪声在各单位时间上的方差，B为常数。 时，选 当 时，选 Sn的选择应该这样进行： 当 平行可加高斯噪声信道容量 这个结果形象的解释就是将信道看作是底部由干扰方差所决定的起伏不平的容器，将信号能量E看作是水，将这些水倒入容器中就形成一个高为B的水平面。当 时，就没有水注入该单元； 越小，进入该单元的水就越多，即分到的能量就越大。 注水定理 用拉格朗日乘因子法来求解极值问题。 令 ，可得 从而 将上式代入约束条件 即 （各分量平均功率的算术平均值） 首先作辅助函数 可得 综上，各信道的输出功率应相等，且等于各分量平均 功率的算术平均值时，即 才能保证联合信道容量最大。 注意求解过程中，并没有考虑 因此上述结果需要验证。 这一条件， 平行可加高斯噪声信道容量 因而 若计算出 的有负值，必须置 来代替算得的负值。这就为边界极值问题，表明当某一信道的噪声功率 大于常数K时，该信道无法利用。为了保持总功率不超过S，另一些信道的输入功率还必须相应调整。设有q个 ，即