西安电子科技大学信息论与编码理论（专题讨论型）课件第十二章 组合信道的容量.pptVIP

组合信道的容量 第十二讲 信道容量 信道容量 离散无记忆 Review 达到C充要条件 输入概率矢量 达到转移概率为 的DMC的容量C的充要条件为 其中， Review 信道容量计算 对于一般信道,信道容量计算相当复杂,我们 只讨论某些特殊类型的信道 几种特殊类型的信道 －无噪无损信道 －有噪无损信道 －无噪有损信道 －对称、准对称信道 Review 【定理】准对称DMC的最佳分布为等概分布。 【准对称信道容量公式】 准对称信道容量计算 Review 可逆矩阵信道容量 列方程组 计算信道容量 验证 Review N次扩展信道容量 【定理】 N次扩展信道容量 组合信道 若信道1和信道2同时传送信息，则组合信道的输入集由所有的有序对 组成，其中 输出集由所有的有序对 组成，其中 转移概率 ，称这样组成的信道为信道1和信道2的独立并行信道或积信道。信道1和信道2称作积信道的分信道。 积信道 定理 独立并行信道的容量C为各分信道容量之和 证明： 积信道 积信道 由此得 特别注意 时等号成立。 条件下，相当于要求 即要求两个分信道的输入彼此独立。这样对于积信道的最佳利用是将两个信道独立地使用，并使每个分信道的输入分布为最佳，就能保证到达信道容量。 推论（N个独立信道构成的并行信道） 设每个分信道的输入空间、输出空间和转移概率分 布相应为Xn，Yn和Pn，则合成的积信道的输入、输 出空间及转移概率分布和容量分别为 和 【例】DMC的N次扩展信道 【例】波形信道看作是时间离散的连续信道的组合 积信道 若任一单位时间可随机地选用信道1或信道2中的一个（ 两者不能同时选用）。选用信道1的概率为p1，选用信道 2的概率为p2,且p1+p2=1。组合信道的输入空间为 称此组合信道为和信道，或称作并信道。 输出空间为 ，转移概率分布为 和信道 【例】 此时和信道的转移概率矩阵为 和信道 和信道的互信息为 其中 和信道 定理 信道1和信道2的和信道的容量C满足 证明： 令 所以 解之 和信道 又 ,则 或 回代 入关系式 则 和信道 可得 定理 信道1和信道2的和信道的容量C满足 证明： 令 所以 解之 和信道 推论（N个独立信道的和信道） 若各分信道的输入、输出空间、转移概率和容量分别为Xn，Yn和Pn和Cn，则和信道的信道容量为 每个信道被利用的概率为 和信道 【例】求解信道 的容量C 和信道 解 和信道 最佳分布 若将信道1的输出作为信道2的输入，信道1的输入 集就是组合信道的输入集，信道2的输出集就是组 合信道的输出集。称这样组成的信道为级联信道， 又称串行信道。 级联信道 转移概率 将信道1与信道2级联，组成级联信道，求其信道容 量和最佳输入分布。 级联信道 信道1 信道2 BSC信道，C=1-H(0.2)，最佳分布为等概分布。 级联信道 级联条件下，可能以为合成信道容量为 但事实上，它并不成立。通过级联以后的转移概率趋 于两个信道转移概率的平均值 因而传信能力将减少，这与信息不增原理相一致。可 以证明，若将N个转移概率相同的BSC信道依次级联 当 ，级联信道容量 1-p 0 1 0 1 0 1 0 1 0 1 1-pt 1-pt 1-pt-1 1-pt-1 1-p pt Pt-1 p 提 示 作 业 4.1 4.3 4.5 4.8 4.9