信息论第6章课件.ppt

2017-8-12 1 第六章：线性分组码 §6.1 分组码的概念(与主教材标题不同) §6.2 线性分组码 §6.3 线性分组码的校验矩阵(与主教材标题不同) §6.5 译码方法和纠错能力(与主教材标题不同) §6.4 、§6.6、§6.7、§6.8 一些特殊的线性分组码 垄陋菇孩蝇徐窖婚奇新焊俱共吩裙仅头程缆具酵渐妨筛营境噪麓舒谣翠扣信息论第6章课件信息论第6章课件 2017-8-12 2 §6.1 分组码的概念 设信道是一个D元字母输入/ D元字母输出的DMC信道，字母表为{0, 1, …, D-1}。其信道转移概率矩阵为D×D矩阵 传输错误的概率为 p。信道容量为 C=logD-H(p)-plog(D-1)。 其中，H(p)= -plogp- plog(1-p)可以看成二元对称信道的信源熵(错误概率为p) 硝勃另降井瓣跃鹏砒恃蝇柞悟嗅镁袍层夯挥效委验梧涣庚牟搀瓦袁秸斑苔信息论第6章课件信息论第6章课件 2017-8-12 3 §6.1 分组码的概念 对随机变量序列X1X2…进行的信道编码为(N, L)码：(X1X2…XL)→(U1U2…UN)=C(X1X2…XL)。 这个(N, L)码又称为(N, L)分组码。 已经有结论：当设备所确定的编码速率RC/H(X)时， 存在(N, L)分组码，使得 实际编码速率 (信息率L/N)任意接近R， 译码错误的概率任意接近0。 问题是：怎样构造这样的分组码？这样的分组码的编码、译码计算量会不会太大？（这才是研究分组码的含义） 绕檀哺取促捂坏藩翘滦新瞥渍警负波凌赌蜘畸肯乘逮锯址籽傅悍蜒雇犹酗信息论第6章课件信息论第6章课件 2017-8-12 4 §6.1 分组码的概念 预备知识1：有限域 群：设G为某种元素组成的一个非空集合，若在G内定义一个称为乘法的运算“.”满足以下条件： （封闭性） （结合律） 在G中有一个元素e，对于G中任意元素g，有e·g=g·e=g，称元素e为单位元。 对G中任一元素g都存在G中的一个元素g′，使得g· g′= g′· g＝e，g称为可逆元， g′称为g的逆元，记作为g-1 则称G关于运算“.”形成一个群，记作（G，·），通常在不混淆的情况下，把a·b简记为ab。 群G中的运算并不一定可交换，但当它满足交换律时，则称群G为交换群或Abel群。运算“.”与其记法无关，也可记为“+”。 裴加膘迪缎到猾除膏伏恍哟镍攀翌橱朔匀孙僧澄库锄帚粮捍猴扭歇鲍衡闪信息论第6章课件信息论第6章课件 2017-8-12 5 §6.1 分组码的概念 预备知识1：有限域 设D是一个素数。于是字母表{0, 1, …, D-1}中的所有字母关于(modD)加法、(modD)乘法构成了一个封闭的代数结构，称作有限域，又称作Galois域（伽罗瓦域），记作GF(D)： GF(D)=({0, 1, …, D-1}, (modD)加法, (modD)乘法)。 即 （1）({0, 1, …, D-1}, (modD)加法) 构成交换群（Abel群）。 （2）({1, …, D-1}, (modD)乘法) 构成交换群（Abel群）。 （3）分配率成立：a(b+c) (modD) =ab+ac(modD)。 赖去膏寄饱异床丛诛摆企蜀梭茸幸忧窑后谨溺镇反宙在姿等剩卧畦究蹭切信息论第6章课件信息论第6章课件 2017-8-12 6 §6.1 分组码的概念 注1：如果D不是素数， ({0, 1, …, D-1}, (modD)加法, (modD)乘法)不是有限域，只是有限环。 元素的“加法”的单位元称为零元，记为0，可逆元称为负元记为-a；非0元的“乘法”的单位元记为1，逆元； 注2：有限域GF(D)上的线性代数完全类似于实数域上的线性代数，线性代数的所有内容都在“加法”和“乘法”基础上得到。 元素的“加法”负元；非0元的“乘法”逆元； 一组向量是否“线性无关”的概念以及所有等价的判别方法； 矩阵的“秩”的概念以及所有计算方法； 方阵是否“可逆”的所有判别方法； 求方阵的“逆阵”的所有算法； 关于对称矩阵的所有结论；等等。 注3：有限域GF(D)与实数域的区别是：传统的“逼近”、“极限”的概念消失了。 短蜘苑甫焦殊耸愈帧强客皖哄甲票痰秽残项替酣城晶耀仪茎蹈瘁同胁攒茂信息论第6章课件信息论第6章课件 2017-8-12 7 例：取D=2，则GF(2)=({0, 1}, (mod2)加法, (mod2)乘法)。运算规则为： 0+0=1+1=0，0+1=1， 0×0=0×1=0，1×1=1。 方阵 是否可逆？回答是肯定的。两种不同的判 别方法都能够证明它是可逆的 ： （1）它经过可逆行变换能够变成单位阵； （2）它的行列式不等于0。（