信息论与通信网络模板.docVIP

第六章 信道编码原理 尽管在前面几章中我们也讨论了有噪声信道的问题，但是到目前为止我们还仅仅介绍了通信系统的有效性问题，从这一章开始我们研究通信系统的第二个重要问题即传输可靠性问题。从这一章开始，我们认为原始信源已经是经过信源编码或者是不需要信源编码的信源，信道是有噪声信道。这样，信道噪声的干扰将使信源符号在传输过程中产生差错，而信道编码的主要目的就是通过某种变换，将原始信源符号集变换为适合有噪声信道传输的信道编码器输出符号集，从而在译码器中能够有效地恢复原始信源符号，纠正差错，这种变换过程就称为信道编码。本章的主要内容就是介绍信道编码的基本原理和基本方法，包括译码准则，信道编码定理和几种最基本的信道编码方法。 6.1 信道编码的基本概念 6.1.1 信道编码的含义 在介绍信道容量和信源编码的时候我们曾介绍，在有噪声信道中传输信息，可以通过信源编码提高信息传输效率，即使实际熵速率R无限接近于信道容量C。其主要方法就是使原始信源符号的概率分布均匀化和减少符号之间的相关性。分析表明，信源符号的概率均匀化和相关性的减小都会使符号更加脆弱，在有噪声信道中更容易受到干扰影响而产生差错。另外应当说明，在实际通信系统中熵速率R=rI(X;Y)，在理论分析中我们假设信道符号速率r=1，而在实际中r的大小取决于实际应用需求和系统成本等因素。随着实际信道速率的增加，噪声对信号的干扰将越发严重，因此，信道编码是各类通信系统特别是无线通信系统不可缺少的组成部分。在实际的通信系统中，信道编码也被称为纠错编码或抗干扰编码，典型通信系统信道编码与信源编码的关系可以用图6-1描述。 图6-1 信源编码与信道编码的基本关系图 在讨论通信系统有效性和信源编码的时候我们用信息传输率作为评价指标，而在讨论通信系统可靠性和信道编码的时候我们用传输系统平均误码概率（系统误码率）作为评价指标。系统误码率既与信道的统计特性（信道误码率）有关也与码元符号的脆弱性有关。信道统计特性的好坏取决于信道环境、通信距离和设备成本的因素，因此改善信道统计特性往往要付出过高代价。在实际的信息系统中都是采用信道编码方法来改善信道符号的脆弱性，提高其鲁棒性。 信道编码的最基本的思想是按照某种编译码规则，在信源输出的符号序列上增加一定的冗余（这一点与信源编码想好相反），变换成信道码字序列。在信道输出端，将收到被干扰的信道码字序列按照相应的规则进行译码，得到信道码字的估计值，并使这个估计值以最大概率等于或近似等于信道输入的码字序列。 在图6-1中，信源编码器将原始信息变换成信息码元序列U（码字或码流），信道编码器将信息码元系列变换成信道码元序列X（码字或码流），信道编码器的变换即为编码规则X=f(U)，码字序列X经有噪声信道后输出为Y，信道译码器按照相应的译码规则F对Y进行译码，得到估计值=F(Y)，并作为信源译码器的输入，译码规则F是编码规则f的一种逆变换。而信道编码理论研究的主要目标就是在付出尽量小代价的条件下，设计和实现译码错误概率最小的信道编码和译码方法。 下面通过一个简单例子说明信道编码的基本思路。 【例6-1】一个BSC信道，输入为X={0，1}且为等概分布，信道误码率pe=0.01，信道模型如图6-2。 图6-2 一种BSC信道模型 编码准则采用三次重复传输方式，即用000表示信源符号0，用111表示信源符号1，实际上这就是一种简单的信道编码器变换过程，编码器输入u1=0时，输出x1=000，输入u2=1时，输出x2=111。 译码准则考虑采用最简单的大数判决方法，信道的输入的码字只有两个长度为三位的二进制编码，000和111，经过有噪声信道后，由于存在干扰，在信道输出端得到的码字就可能不只这两个码字，而是由23=8种可能。也就是信道输出随机变量Y的空间为 Y：{y1=000，y2=001，y3=010，y4=100，y5=011，y6=110，y7=101，y8=111} 由信道误码率为0.01分析，每个信道码元正确传输的概率为0.99，发生错误的概率为0.01，因此我们采用简单的大数判决方法作为译码准则，即 F(000)=F(001)=F(010)=F(100)=0 F(011)=F(101)=F(110)=F(111)=1 采用信道编码前的信道转移矩阵为 在信道误码率为pe=10-2条件下，其错误译码概率为 可以看到这时系统误码率就等于信道误码率，这里没有采用任何信道编码。 假设信源为离散无记忆信源，记p=pe，p1=1-pe，采用三次重复编码作为信道编码后的信道转移概率矩阵为 根据上述译码准则，这时的错误译码概率为 可见这种简单重复码可以将错误译码概率降低两个数量级，由此可见信道编码的基本原理和方法。通过这个例子可以看到，利用信道编码可以改善信道传输差错的影响，从而克服信道噪