第18讲组合信道.pptVIP

总设有如下两个信道，分别称为信道1和信道2。 信道1的输入事件为全体X，共有r个输入事件； 信道1的输出事件为全体Y，共有s个输出事件； 信道1的转移概率矩阵为[p1(y|x)]r×s. 信道1的信道容量为C1，最佳输入分布为{x, q1(x)}。 信道2的输入事件为全体U，共有n个输入事件； 信道2的输出事件为全体V，共有m个输出事件； 信道2的转移概率矩阵为[p2(v|u)]n×m； 信道2的信道容量为C2 ，最佳输入分布为{u, q2(u)}。 定义 信道的输入事件为全体(X,U)，共有rn个输入事件； 信道的输出事件为全体(y, v)，共有sm个输出事件； 转移概率矩阵为 [p((y, v)|(x, u))](rn)×(sm)， 其中p((y, v)|(x, u))= p1(y|x)p2(v|u)。 则称该信道为信道1与信道2的积信道。 （又称该信道为信道1与信道2的独立并行信道） （在物理上，积信道是两个信道的并行使用） 定理 积信道的 信道容量为C=C1+C2， 最佳输入分布为{(x, u), q(x, u)}，其中q(x, u)=q1(x)q2(u)。 证明 此时 所以I((XU)=(xu); (YV)=(yv))=I(X=x; Y=y)+I(U=u; V=v) 注意到 对任何满足 q1(x) 0 的 x，I(X=x; Y)=C1； 对任何满足 q1(x) =0 的 x，I(X=x; Y)≤C1； 对任何满足 q2(u) 0 的 u，I(U=u; V)=C2 ； 对任何满足 q2(u) =0 的 u，I(U=u; V)≤C2。 于是 对任何满足 q1(x)q2(u)0 的 (xu)，I((XU) ; (YV))=C1+ C2 ； 对任何满足 q1(x)q2(u)=0 的 (xu)，I((XU); (YV))≤C1+ C2 。 根据定理，积信道的信道容量为C=C1+C2， 最佳输入分布为{(x, u), q1(x)q2(u)}。 定义 信道的输入事件为全体{x}∪{u}，其中{x}与{u}不相交；共有r+n个输入事件； 信道的输出事件为全体{y}∪{v}，其中{y}与{v}不相交；共有k+s个输出事件； 信道的转移概率矩阵为 则称该信道为信道1与信道2的和信道。 定理4.5.2（证略） 定义 构造一个信道，使得 该信道的输入是信道1的输入； 信道1的输出再输入信道2； 信道2的输出就是该信道的输出。 则称该信道为信道1与信道2的级联信道（串联信道）。 【注】：此时 信道1的输出事件全体恰好是信道2的输入事件全体， 即 {y}={u}，s=n。 【注】： （1）级联信道的转移概率矩阵为 [p(v|x)]r×m=[p1(y|x)]r×s× [p2(v|y)]n×m， 即 这一结果来自于全概率公式和马尔可夫性。 （2）级联信道的信道容量C满足C≤min{C1, C2}。这一结果也容易证明。 例 设信道1的转移概率矩阵为 其中0p1。则 （1）信道1的最佳输入分布是等概分布，信道容量为 （2）将信道1自级连N次， 级联信道的转移概率矩阵为 级联信道的信道容量为 （3）令自级连的次数N→+∞， 则级联信道的转移概率矩阵趋向于 信道容量趋向于0。 * 第四节 组合信道 4.4.1 积信道 4.4.2 和信道 4.4.3 级联信道 4.4.1 积信道 X Y U V X Y U V (x,u) (y,v) 信道1 信道2 积信道 C1 C2 C 4.4.2 和信道 X Y U V 信道1 信道2 和信道:信源发出符号，是x由信道1传递， 若是u由信道2传递。 C1 C2 C (y U v) X Y U V (x U u) 4.4.3 级联信道