信息论第3章北理工.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 根据互信息的定义 定理3.5 在一般离散信道中 （1）如果信道是无记忆的，即 则： （2）如果信源是无记忆的，即 * （3）当信源、信道都是无记忆时，上述两条件都满足 这就是离散无记忆扩展信道的信道容量，该信道容量在信源是无记忆信源且每一个输入变量Xi达到最佳分布时达到。 则： 若信道的输入序列X中的随机变量取自于同一信源符号集，输出序列Y中的随机变量也取自于同一符号集时有 * 第六节 独立并联信道及其信道容量 独立并联信道的联合传递概率满足 。。。 X2 XN X1 Y1 Y2 YN 信道1 信道2 信道N 。。。 。。。 相当于信道是无记忆时应满足的条件 * 定理3.5推广得 因此得独立并联信道的信道容量 * 在一些实际通信系统中，常常出现串联信道。例如 微波中继接力通信就是一种串联信道。 信宿收到数据后再进行数据处理，数据处理系统可看成一种信道，它与前面传输数据的信道构成串联信道。 图2.1.11表示两个单符号离散信道串联的情况。 第七节 串联信道的互信息和数据处理定理 * 两个串联信道，信道Ⅰ的传递概率是P(y/x)=P(bj/ai),而信道Ⅱ的传递概率一般与前面的符号Ｘ和Y都有关，所