第五章有噪信道编码资料.ppt

第五章 有噪信道编码 5.1 译码规则与错误概率 为了提高信息传输的可靠性,可在信道的前端和后 端分别加入信道编码器和信道译码器,从而组成一 个新的信息传输通道——编码信道: 5.2 两种典型的译码规则 平均差错率Pe与译码规则有关,使Pe达到最小的 译码规则称为最佳译码规则。由 可以看出,要减少Pe,可增大各个接收符号的译码正确概率 P[F(bj)|bj]。译码正确的概率与译码规则有关,如果所有的 P[F(bj)|bj]都是最大的,那么Pe最小 5.3 平均差错率与信道编码 平均差错率Pe的大小与所选择的编码规则有关,但即使选择了最佳译码规则,也只能使Pe有限地缩小,难以满足信息传递系统的高可靠性要求。要进一步降低Pe,必须先对信源送来的序列进行可靠性变换——信道编码。 5.4 汉明距离 定义5.2 两个等长符号序列x与y之间的汉明距离,记为D(x,y),是x与y之间对应位置上不同符号的个数。不难证明汉明距离D(x,y)满足如下的距离公理: (1)非负性:D(x,y)≥0,x=y?D(x,y)=0 (2)对称性:D(x,y)=D(y,x); (3)三角不等式:D(x,z)+D(z,y)≥D(x,y) 上述定理的含义是:设信道有r个输入符号和s个输出符号,其信道容量为C,由于输入符号序列长度为N,因此可以构成rN个可供选择的输入符号。从rN个符号集中可以找到M≤2 N(C－ε)个码字组成一组码。这样编码后,信道的传输率为R=(logM)/N,只要RC,就可以在有噪信道中以任意小的错误概 率传输信息。而且当N足够大时,可使R任意接近C 5.6 Fano不等式和有噪信道编码逆定理 Shannon第二定理指出:RC时,一定存在Pe逼近零的好码,但RC时如何? 引理5.1(Fano不等式) 对于离散无记忆信道: {X,PY|X,Y} 平均差错率Pe与信道疑义度之间满足下列Fano 不等式: H(X|Y)≤H(Pe,1－Pe)+Pelog(r－1) 5.7 线性分组码 线性分组码是最有实用价值的码之一。它的编 码方式是将信息序列进行分组,称其为信息组,每 个信息组由相继的K位信息数字组成,然后按照一 定的编码规则,把信息组成N(NK)位的二进制数 字序列,形成码字。其中非信息位的N－K=r位组 成的数字序列称为校验位,每一位校验位是所有信 息位的线性组合。 系统码与非系统码 按照信息码元在编码后是否保持原来的形式不变，可划分为系统码和非系统码。 在差错控制编码中，通常信息码元和监督码元在分组内有确定的位置。在系统码中，编码后的信息码元保持原样不变，而非系统码中信息码元则改变了原来的信号形式。 系统码的性能大体上与非系统码的相同，但是在某些卷积码中非系统码的性能优于系统码。由于非系统码中的信息位已经改变了原有的信号形式，这对观察和译码都带来麻烦，因此很少应用，而系统码的编码和译码相对比较简单，所以得到广泛的应用。 系统化 非系统码的G可通过系统化(行初等变换和列置换)转变为系统码的G。 若通过行运算和列置换能将两个生成矩阵G互等，则称这两个G等价。等价的两个G生成的两个(n,k)线性码也是等价的。 任何一个(n,k)线性分组码都等价于一个系统码。 上表所示的码，虽然用了不同形式的生成矩阵，但都属于同一个(n，k)码的码字空间，因此它们的检错和纠错能力是一样的。 理解： 系统化不改变码集，只是改变了映射规则。 系统码与非系统码的主要区别在于选择了不同的基底向量、即：生成矩阵。 分组码的表示方法： （二元分组码） 信息码组由 k 个信息码元组成，共有 2k 个不同的信息码组；信息位 附加 个校验码元，每个校验码元是该信息码组的某些信息码元模2和；校验位或监督位 编码器输出长度为n的码字；， 码字的数目共有 2k ； 这2k 个码字的集合称为 (n,k) 分组码； 信息传输率（码率），编码效率 线性分组码 5.7.1 线性分组码的校验矩阵与生成矩阵 (1) 校验矩阵 由校验方程，得到 生成矩阵 线性分组码 写成矩阵形式: 令 则有 HCT=0 或 CHT=0 式中H称为一致校验矩阵。一旦建立了校验矩阵,校验元与信息元的关系就确定了,码也就随之确定。 其中 为