信息论与编码2014-ch6.pptVIP

6.1.1 基本概念的介绍 信源编码 提高数字信号有效性 将信源的模拟信号转变为数字信号 降低数码率,压缩传输频带(数据压缩) 信道编码 提高数字通信可靠性 数字信号在信道的传输过程中,由于实际信道的传输特性不理想以及存在加性噪声,在接收端往往会产生误码。 差错率是衡量传输质量的重要指标之一,它有几种不同的定义。 码元差错率/符号差错率 指在传输的码元总数中发生差错的码元数所占的比例(平均值),简称误码率。 是指信号差错概率 比特差错率 /比特误码率 在传输的比特总数中发生差错的比特数所占比例 是指信息差错概率 对二进制传输系统,符号差错等效于比特差错; 对多进制系统,一个符号差错对应多少比特差错却难以确定 根据不同的应用场合对差错率有不同的要求: 在电报传送时,允许的比特差错率约为: 10－4～10－5； 计算机数据传输,一般要求比特差错率小于: 10－8～10－9； 在遥控指令和武器系统的指令系统中,要求有更小的误比特率或码组差错率 差错图样 为定量地描述信号的差错,定义差错图样E E=发码C－收码R (模M ) 最常用的二进制码可当作特例来研究,其差错图样等于收码与发码的模2加,即 E = C⊕R 或 C = R⊕E 设发送的码字C 1 1 1 1 1 1 1 1 1 1 接收的码字R 1 0 0 1 0 0 1 1 1 1 差错的图样E 0 1 1 0 1 1 0 0 0 0 差错图样中的“1”既是符号差错也是比特差错,差错的个数叫汉明距离。 差错图样类型 随机差错： 差错是相互独立的,不相关 存在这种差错的信道是无记忆信道或随机信道 突发差错： 指成串出现的错误,错误与错误间有相关性,一个差错往往要影响到后面一串字 E: 0 0 1 0 0 1 0 0 0 0 0 0 1 0 0 1 1 1 0 0 0 0 0 0 0 纠错码分类 从功能角度讲,差错码分为检错码和纠错码 检错码：用于发现差错 纠错码：能自动纠正差错 纠错码与检错码在理论上没有本质区别,只是应用场合不同,侧重的性能参数也不同。 纠错码分类 按照对信息序列的处理方法,有分组码和卷积码： 分组码： 将k个信息码元分成一组,由这k个码元按照一定规则产生r个监督码元,组成长度n = k + r的码字 纠错码分类 （1） 按照码元与原始信息位的关系,分为 线性码：所有码元均是原始信息元的线性组合,编码器不带反馈回路。 非线性码：码元并不都是信息元的线性组合,可能还与前面已编的码元有关,编码器可能含反馈回路。 由于非线性码的分析比较困难,早期实用的纠错码多为线性码,但当今发现的很多好码恰恰是非线性码。 纠错码分类 （2） 按照适用的差错类型,分成: 纠随机差错码: 用于随机差错信道,其纠错能力用码组内允许的独立差错的个数来衡量。 纠突发差错码: 针对突发差错而设计,其纠错能力主要用可纠突发差错的最大长度来衡量 差错控制系统分类(1) 前向纠错(FEC)： 发送端的信道编码器将信息码组编成具有一定纠错能力的码。 接收端信道译码器对接收码字进行译码,若传输中产生的差错数目在码的纠错能力之内时,译码器对差错进行定位并加以纠正。 差错控制系统分类(2) 自动请求重发(ARQ)： 发端发送检错码， 收端译码器判断当前码字传输是否出错； 当有错时按某种协议通过一个反向信道请求发送端重传已发送的码字(全部或部分)。 差错控制系统分类 (3) 混合纠错(HEC)： 是FEC与ARQ方式的结合。 发送端同时具有自动纠错和检测能力,收端检查差错情况,如果差错在码的纠错能力以内,则自动进行纠正。 如果信道干扰很严重, 超过了码的纠错能力,则经反馈信道请求发端重发这组数据。 6.1.2矢量空间与码空间 F表示码元所在的数域，对于二进制码，F代表二元域{0,1} 设n重有序元素的集合V= {Vi }, 若满足条件： V中矢量元素在矢量加运算下构成加群； V中矢量元素与数域F元素的标乘封闭在V中； 分配律、结合律成立， 则称, 集合V是数域F上的n维矢量空间，或称n维线性空间，n维矢量又称n重(n-tuples)。 矢量空间中矢量的关系 对于域F上的若干矢量 线性组合： 线性相关： 其中任一矢量可表示为其它矢量的线性组合 线性无关或线性独立：一组矢量中的任意一个都不可能用其它矢量的线性组合来代替。 矢量空间与基底 一组线性无关的矢量