信息管理学第六章 信道编码.docVIP

第六章信道编码 信道编码信道编码首先介绍信道探讨信道传输信息的能力讨论抗干扰信道编码的基本原理，然后详细介绍二元线性码和循环码的编码、译码，最后简要限失真编码定理。 学习目标掌握信道编码的基本原理抗干扰信道编码定理掌握二元线性码的编码和译码掌握循环码的编码和译码限失真编码定理6.1 信道编码概述 6.1.1信道模型 信息必须首先转换成能在信道中传输或存储的通过信道传送收信者噪声或干扰主要从信道引入，它使通过信道后产生错误和失真。信道的输入和输出之间一般不是确定的函数关系，而是统计依赖的关系。只要知道信道的输入信号、输出信号以及它们之间的统计依赖关系，确定信道的全部特性。 信道的种类很多，只研究无反馈、固定参数的单用户离散信道。 离散信道的数学模型 离散信道的数学模型一般如图所示。图中输入和输出信号用随机矢量表示输入信号 X= (X1, X2,…, XN)，输出信号Y= (Y1, Y2,…, YN)；每个随机变量i和Yi又分别取值于符号集A={a1, a2, …, ar}和B=b1, b2, …, bs}，其中r不一定等于s条件概率P(y|x) 描述了输入信号和输出信号之间的统计依赖关系，反映了信道的统计特性。 图6.1 离散信道模型 根据信道的统计特性即条件概率P(y|x) 的不同，离散信道可以分为三种情况： 无干扰信道。信道中没有随机干扰或干扰很小，输出信号与输入信号之间有确定的一一对应的关系。 有干扰无记忆信道。实际信道中常有干扰，即输出符号与输入符号之间没有确定的对应关系。若信道任一时刻输出符号只统计依赖于对应时刻的输入符号，而与非对应时刻的输入符号及其他任何时刻的输出符号无关，则这种信道称为无记忆信道。 有干扰有记忆信道。这是更一般的情况，既有干扰又有记忆，实际信道往往是这种类型。在这一类信道中某一瞬间的输出符号不但与对应时刻的输入符号有关，而且与此前其他时刻信道的输入符号及输出符号有关，这样的信道称为有记忆信道单符号离散信道的数学模型 单符号离散信道的输入变量为取值于{a1, a2, …, ar}输出变量为，取值于b1, b2, …, bs}，并有条件概率P(y|x)= P(y=bj|x=ai)= P(bj |ai) (i=1,2,…,r；j=1,2,…,s) 这一组条件概率称为信道的传递概率或转移概率。 因为信道中有干扰（噪声）存在，信道输入为x=ai时，输出是哪一个符号y，事先无法确定。但信道输出一定是b1, b2, …, bs中的一个有 (i=1,2,…,r) (61) 由于信道的干扰使输入符号x在传输中发生错误，所以可以用传递概率 来描述干扰影响的大小。因此，一般简单的单符号离散信道的数学模型可以用概率空间[]加以描述。另外，也可以用图来描述，如图6.2所示。 图6.2 单符号离散信道 6.1 二元对称信道 这是很重要的一种特殊信道简记为BSC如图6.3所示。它的输入符号X取值于{0,1}输出符号Y取值于{0,1}r=s=2， a1=b1=0，a2=b2=1，传递概率, , 其中，表示信道输入符号为0而接收到的符号为1的概率，表示信道输入符号为1而接受到的符号为的概率它们都是单个符号传输发生错误的概率，通常用p表示。而和是无错误传输的概率，通常用表示。 ，这些传递概率满足式(61)，即 X 1-p Y 图6.3 二元对称信道用矩阵来表示，得二元对称信道的传递矩阵为 一般离散单符号信道传递概率可用矩阵表示，即 b1 b2 … bs 并满足式 （）为了表述简便，，信道的传递矩阵为 而且满足 （) (6-2) 式(6)表示传递矩阵中的每一行之和等于1。这个矩阵完全描述了信道的统计特征，又称为信道矩阵其中有些概率是信道干扰引起的错误概率，有些概率是信道正确传输的概率。看到，信道矩阵表达了输入符号集A={a1,…, ar}，又表达了输出符号集B={b1,…, bs}，同时还表达了输入与输出的传递概率关系，信道矩阵能完整地描述给定的信道。因此，信道矩阵作为离散单符号信道的另一种数学模型的形式。 (1) 设输入和输出符号的联合概率为P(x=,