信息论信道编码第四讲.pptVIP

第四讲 主要内容 一、信道编码概念和信道编码定理 1.1 研究纠错编码目标 为了使信源代码具有检错和纠错能力，应当按一定的规则在信源编码的基础上增加一些冗余码元，使这些冗余码元与被传送信息码元之间建立一定的关系，发信端完成这个任务的过程就称为信道编码（或者纠错码）；在收信端，根据信息码元与监督码元的特定关系，实现检错或纠错，输出原信息码元，完成这个任务的过程就称译码(或解码)。 1.2 分组概念 1.3 编码的几个名词 信息元：需要进行信道编码的信息序列，又称为“报文”或者“消息组”。信息元的元素个数称为信息比特数（k）。 监督元：为了进行纠错编码，而在原信息元中人为地添加的非信息码元（冗余码元）。添加的冗余码元和信息元之间满足一定的规则，按不同的规则就可以得到不同的纠错方法。所以针对某个纠错编码，每一组信息元和监督元之间是一一对应的。 码字（C）：由信息元和按某种纠错编码方法添加的监督元组成的序列。 码长：码字的元素个数（n）。 码率：代码效率的量度，信息比特数和码长的比例（k/n）。 码重：一个码字中含有‘1’的元素个数，记为W(C)。 例：W(000)=?; W(011)=?; W(101)=?。 码距：两个长度均为n的码字x,y间，对应位取值不同的数目。又叫汉明距离，用d(x,y)表示。 例：d{(0110100),(1011100)}=? 最小距离：任意两个码字之间汉明距离的最小值。用d0表示。它决定该码的纠错能力。 例： (0110100), (1011100), (0110110), (1010100), d0=? 对源信息序列的进行的长度为k的分组， 有2k 个组合，即信息元可用2k 个组来表示； 组成码字（长度为nk）的监督元按一定的规则得到； 虽然码字有2n 个组合，但是只有2k 个组是有效的， 这2k 个码字称为“准用码”。其它2n-2k个码字称为“禁用码”。 1.4 错误图样 错误图样定义 设发送的码字C：(cn-1，cn-2，…，c1，c0)， 通过信道传输到达接收端(纠错码译码器输入端)的序列为R：(rn-1， rn-2，…，r1，r0)。由于信道中存在干扰，R序列中的某些码元可能与C序列中对应码元的值不同。由于二进制序列中的错误不外乎是1错成0或0错成1，因此，如果把信道中的干扰也用二进制序列E：(en-1，en-2，…，e1，e0)表示，则相应有错误的各位ei取值为1，无错的各位取值为0，而R就是C与E序列模2相加的结果，称E为信道的错误图样或干扰矢量。 1.5 信道编码定理 信道编码理论（仙农编码理论） 每个信道具有确定的信道容量Cp ，对任何小于Cp的码率Rs ，存在有速率为Rs码长为n的编码方法，若用最大似然译码，则随着码长的n增加其译码错误概率Pe可任意小， 即 ： 式中，E(R)为正实函数，称为误差指数，它与R、C的关系如下图所示。图中，C1、C2为信道容量，且C1＞C2。 （2）另一种方法是在Rs一定下，增加码长n，可使Pe随n的增加而呈指数下降。 但由于码长n的增加，当Rs保持一定时，可能发送的码字数2k指数增加， 从而增加了译码设备的复杂性。这种方法就是信道编码定理所指出减少误码率的另一方向，它为通信设计者提供了一条新的途径。 二、线性分组码 2.1、生成矩阵 不同的生成矩阵产生不同的码，生成矩阵的特点决定了码的特点。 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵可能生成同一码集。 码集相同，编码不一定相同，因为编码涉及码集和映射两个因素，码集一样而映射方法不同不能说是同样的编码。 例3.1 对于(6,3)码，其生成矩阵为： 对于消息m=(1 0 1)的码字为： 2.2、校验矩阵 2.3、伴随式与译码 例3.3 对于(6,3)码的生成矩阵： 校验矩阵为： u1=(111000)是对应于消息(111)的码矢， 于是s=uHT=(000)。 u2=(111001)不是对应于消息(111)的码矢， 因为s=uHT=(001)。 某一个(5,2)系统线性码的生成矩阵： G = 码集： {00000, 10111, 01101, 11010} 从群的角度，若（C,*）是（R,*）的子群，Ej是R中的任一元素。将Ej与群C中的每个元素作左运算，所得的等价类称作左陪集，陪集各元素所含的共同元素Ej称作陪集首。 译码表每一行是一个陪集，含有的共同元素Ej就是陪集首，每陪集对应同一个伴随式。 每列表示同一码字在不同差错图案下的变化，构成一个子集。子集各元素所