信息处理与编码修订本吴伟陵第3章上课用课件.ppt

第3章 信道与信道容量 3.1 信道的分类与描述 3.2 无干扰离散信道 3.3 离散单个消息(符号)信道及其容量 *3.4 离散消息序列信道及其容量 3.5 连续信道及其容量 3.6 信道容量代价函数C(F)及信道冗余度 3.7 多用户信道 3.1 信道的分类与描述 3.1.1 信道的分类 信道可以从不同的角度加以分类，但是归纳起来有四类：从工程的物理背景即传输媒介的类型；从数学上的描述方式即信号与干扰描述方式；还可以从信道本身的物理性质即信道参量性质；最后一类是从用户的类型，是单用户还是多用户加以分类。下面我们分别加以简介。 (1) 按传输媒介的类型划分 (2) 按照决定信道的信号与干 扰的类型与描述进行分类 (3) 按信道的物理性质类分 (4) 按用户类型划分类 3.1.2 信道描述 类似于对信源的统计描述，对信道而言描述它的三要素是： 信道输入统计概率空间： ［XK，p(X)］， 信道输出的统计概率空间： ［YK，q(Y)］， 信道本身的统计特性，转移概率矩阵： P(Y |X)。 3.2 无干扰离散信道 严格地说，信道总是存在干扰的。只有理想情况下，信道才无干扰。从互信息角度看，这时通过信道的互信息即信宿所收到的信息就是信源所输出的信息。信道中所通过的最大信息量即信源所输出的最大熵。 问题可归结为求M(T)，根据符号间有无约束可以分别加以讨论。 考虑符号间有固定约束情况。 3.3离散单个消息(符号)信道及其容量 对于输入单个消息的信道，可表示见图3-3-1。 一、强对称信道 离散强对称信道见图3-3-2。 二、对称信道 进一步分析上述强对称信道后，我们发现它具有下列两项重要特征。 ① 其输入消息与输出消息相等，均为n个，即m=n。且信道中总的误差概率ε＝Pe,它将ε平均分配给(n-1)个传输的错误。 ② 信道转移概率矩阵中的每 一行都是第一行的重排列，即信道对输入是对称的；每一列都是第一列的重排列，即信道对输出也是对称的。 条件②就对称而言，比条件①更加本质，更加重要。若放弃条件①，保留条件②，我们就可以得到一般性的对称信道。 三、 准对称信道 下面，假如我们再将条件放松一些，比如信道的输出集合可以划分为若干个不相等的且具有对称信道性质的子集合。 四、 具有可逆矩阵信道 若信道的转移矩阵P的逆矩阵P-1存在，这类信道称为具有可逆矩阵的信道。对于这类信道在理论上其信道容量是可以用求极值的方式得到的。 这类信道由于要求信道转移矩阵的逆存在，它必然要求信道输入输出具有相同数量的元素。即n＝m,P为方阵，且为正则方阵。 五、一般化的离散单个消息 信道的信道容量迭代计算 前面，我们讨论了一些特殊情况下离散单消息信道的信道容量计算的问题。下面，将讨论一般情况下离散单消息信道的信道容量的计算机迭代算法。 由信道容量定义，求信道容量实际上就是求互信息I(X，Y)的极大值。而引用迭代法求互信息的极值的关键在于寻求两个互为因果关系的自变量来表达互信息，以便进行循环迭代运算。 *3.4 离散消息序列信道及其容量 *3.4.1 无记忆离散消息序列信道 *3.4.2 有记忆离散消息序列信道 3.5 连续信道及其容量 3.5.1 连续单个消息信道及其容量 3.5.2 一般迭加性干扰的单消息连续信道 3.5.3 限时限频限功率的白色高斯噪声信道 定理3-5-2：满足限频(F)、限时(T)条件的广义平稳随机过程信源U(t,ω)，当它通过一个限功率(P)的白色高斯信道时，其容量值为： C=FTlog(1+S/σ2) 若T=1,即单位时间的容量为： C=Flog(1+S/σ2) 这就是著名的仙农公式。 (1) 用频带换取信噪比，它是现代扩频通信的基本原理。 其目的是为了提高通信系统的可靠性。 (2) 用信噪比换频带，它是多进制多电平多维星座调制通信方式的基本原理。 这里，正好与(1)中相反，往往在优质信道中，信噪比有富裕，而使用的频带紧张，这时可以采用与(1)中相反的措施，用信噪比换频带。 (3) 用时间换取信噪比，它是弱信号累积接收的基本原理。 在深空通信中，往往利用这一原理传送图片。它是利用信号与干扰统计特性上的差异来实现的。 (4) 用时间换取频带。 在一些特殊需要的情况下，比如可以采用频带很窄的电话线路，传送准活动的图像，像拉洋片式的，就是基于这一原理。 3.5.4 有公共约束的连续消息序列信道 上面，我们研究了平稳无记忆连续信息序列信道，这节将进一步研究非平稳的无记忆连续消息序列信道。这时，K维序列中的每一维的信号与噪声分量，虽然满足统计无关的无记忆特性，但是不满足平稳性。 结论：只有当输出序列中各分量相等时，才能保证序列输入信道达到最大的容量值。这就是著名