编码理论(第二版)第5章信道编码原理.ppt

第5章　信道编码原理 5.1　信道及其数学模型 5.1.1　信道分类　　信道是指信息传输的通道。在实际信息传输中所利用的各种物理通道是信道的最典型的例子，如电缆、光纤、电波传播的空间、载波线路等等。除了这些为在空间上将信息进行传输的信道以外，信息传输中所研究的信道还包括那些为了在时间上将信息进行传输的信道，如磁带、光盘等。有时把为了某种目的而使信息不得不经过的通道也看做信道，例如一个分类器的输入到它的输出就可以看做是一个信道。信道本身的物理组成可能是千差万别的。 最简单的如一个放大器的输入到输出，而复杂的如一条国际信息传输的线路，其中可能包括终端设备、线路设备、电缆、微波等等。信息传输中研究的信道其输入点和输出点在一个实际物理通道中所处位置的选择完全取决于研究者兴趣，例如，可以把信息传输中发送天线到接收天线之间的通道看做信道，也可以把信息传输中从话机到话机之间的通道看做信道。 　　在信息传输系统中,信道按其物理组成常被分成微波信道、光纤信道、电缆信道等。这种分类是因为信号在这些信道中传输的过程遵循不同的物理规律，而信息传输技术必须研究这些规律以获得信号在这些信道中传输时的特性。本书不研究这些传输特性的获得问题，而假定传输特性是已知的，并在此基础上研究信息的传输问题。因为如果不研究信号在信道中传输的物理过程，并假定信道的传输特性是已知的，就可以抽象地将信道用其输入/输出的统计关系模型来描述，并按其输入/输出信号的数学特点以及输入／输出信号之间关系的数学特点进行分类。具体地讲，信道的分类方法可以有以下几种： 　　(1)信道按其输入／输出信号在幅度和时间上的取值是离散或连续来划分,可分成三类，分别是数字信道(DigitalChannel)或离散信道(DiscreteChannel)、模拟信道(AnalogChannel)或波形信道(WaveformChannel)和连续信道(ContinuousChannel)。　　(2)信道按其输入/输出之间关系的记忆性来划分,可分为无记忆信道和有记忆信道两类。如果信道的输出只与信道该时刻的输入有关而与其他时刻的输入无关，则称此信道是无记忆的；反之,如果信道的输出不但与信道现时刻的输入有关，而且还与以前时刻的输入有关，则称此信道为有记忆的，实际信道一般都是有记忆的。信道中的记忆现象来源于物理信道中的惯性元件,如电缆信道中的电感电容、无线信道中电波传布的衰落现象等。 　　(3)信道按其输入/输出信号之间的关系是否是确定关系来划分，可分为有噪声信道和无噪声信道。一般来讲，信道输入与输出之间的关系是一种统计依存关系，而不是确定关系。这是因为信道中总存在某种程度的噪声。在某些情况下，若信道中的噪声与有用信号相比很小可以忽略不计，则这时的信道可以理想化为具有确定关系的无噪声信道。 5.1.2　信道数学模型　　1.基本离散信道  基本离散信道允许输入r(任意正整数)种不同的离散符号ai(i＝1，2，…，r)，其相应的输出为s(任意正整数)种不同的离散符号bj(j＝1，2，…，s)。如图5－1所示。 图5－1　基本离散信道 　　基本离散信道的输入符号集X=｛a1,a2,…,ar｝，输出符号集Y=｛b1,b2,…,bs｝。符号集X和Y之间可完全相同、部分相同或完全不同。符号种数r和s可相等，也可不等。若信源X的符号集与信道的输入符号集完全一致，则信源X的每一种符号ai都能通过信道。当信源X=｛a1,a2,…,ar｝发送某一符号ai(i＝1，2，…，r)时，信道对这个符号的传递作用，就是以一定的概率在信道的输出端出现某符号bj(j＝1，2，…，s)，这个概率就是bi的条件概率p(bj| ai)(i=1,2,…,r;j=1,2,…,s)，这个条件概率就集中体现了信道对输入符号ai(i＝1，2，…，r)的传递作用。 　　由于不同的信道有不同的条件概率，因此条件概率p(bj|ai)(i=1,2,…,r;j=1,2,…,s)称为信道的传递概率。因为信源X=｛a1,a2,…,ar｝中某符号ai(i＝1，2，…，r)经信道传递后，在信道的输出端输出以一定概率出现的信道符号集Y=｛b1,b2,…,bs｝中的某符号bj(j＝1，2，…，s)，所以在信道的输出端输出与信源X=｛a1,a2,…,ar｝相对应的随机变量Y=｛b1,b2,…,bs｝。 　　因信道的输入有r种不同的输入符号，输出有s种不同的输出符号，所以要完整描述信道的传递特性则必须测定r×s个条件概率，即 式中： 　　当p(bj|ai)=0时，表示在输入符号为ai(i＝1，2，…，r)的前提下，信道不可能输出bj(j＝1，2，…，s);当p(bj|ai)＝1时，表示在输入符号为ai(i＝1，2，…，r)的前提下，信道输出bj(j