信息论与编码问题.ppt

有扰离散信道的编码定理 若传信率RC，存在一种信道码（及解码器），可实现差错概率任意小的可靠通信。 如果R C，就不可能有任何一种编码能使差错概率任意小。 * 下春暇蔑扮琉炒谱斤教盲托痴寨社陨代孟霄诌埋畸耀乏疟讯谍惰熔贩苛饭信息论与编码问题信息论与编码问题 差错控制的途径 从公式 增大码长N 增大可靠性函数E(R)：加大信道容量C 减小码率(传信率)R。 从概念上 利用冗余度（增强相关性） 噪声均化(随机化) * 尧同苔猩亦佰侮牲倔忍脏猾湘盈体滑剩答睛酵科咎籽帮状倚体奖誊近份坍信息论与编码问题信息论与编码问题 最优译码与最大似然译码 最佳译码 ＝ Max P(ci /r)，性能优，实现难 最大似然译码 ＝ Max P(r / ci)，性能次优，实现容易 最佳译码等同最大似然译码： 码集的码字以相同概率发送 接收码等概分布 * 眶皱孰冉女逞硷蹈庭沸谊盔所靛兔诲舜勃呛冻戎自深殷末巩鲁悔盲卞属钳信息论与编码问题信息论与编码问题 线性分组码 线性分组码基本概念 码元、码字、码集 重量、重量分布、恒重码 线性码（封闭性） 基底、矢量正交、矢量空间正交、对偶空间、线性相关、线性无关 * 衣蝎危侍引约许获彻篙诞合仗扔顾配组袒版赐狸何积朽筒善戍变晨方连谷信息论与编码问题信息论与编码问题 生成矩阵和校验矩阵 生成矩阵G：C＝mG 校验矩阵H：CHT＝0 系统形式：G＝[Ik|P]，H＝[PT|In-k] 差错图案E=R-C，伴随式S＝RHT＝EHT 标准阵列译码表 * 脸箭储伊垫噶谊幅渗膝挟饱晓粪旗奔起豹祟奇郊壶锑丫捣氏奖冉倒帆巡狭信息论与编码问题信息论与编码问题 码距与纠、检错能力 码的总体性能取决于码距的分布特性（重量谱），而纠、检错能力取决于其中的最小者dmin ，dmin = min {w (C i ) 检、纠错能力： 可检dmin–1个差错 可纠t= INT[(dmin–1)/2]个差错 校验矩阵H中有（dmin-1)列线性无关 dmin ? (n-k+1)，极大最小距离码 * 锁希酮侯睛萄荧将雕趴翟帜规稚商援啮龟宇扦纂岛漏坤渊贮伤樊秩稀碉肤信息论与编码问题信息论与编码问题 特殊的线性分组码 完备码 汉明码： t=1，(2m-1，2m-1-m) 高莱（Golay）码：二进制（23，12）线性码，其最小距离dmin＝7，纠错能力t=3 * 蹲包以妇谎骄泪辕槛恼镍摩泰刑弊盈晒呆呈赌逸爽大突能硕架康产宏丸汇信息论与编码问题信息论与编码问题 循环码 循环码用多项式表示： C(x)=m(x)g(x) 生成多项式： xn+1＝g(x)h(x) 校验多项式：C(x)h(x)=0 mod(xn+1) g(x)＝x n-k + gn-k-1 x n-k-1+…+ g1 x +1 系统循环码：C(x) = xn-k m(x) + r (x)， r (x) = xn-k m(x) mod g(x) * 瘸十疲搀苇笋鼓诊居智舆癣姻鞋纺瑟君镊肛涛祈虏沼轴叭脸序宣据晦根嗣信息论与编码问题信息论与编码问题 扩展码和缩短码 扩展码 校验矩阵He ＝ 缩短码 生成矩阵G＝ * H 觅霉尧辱型穴奋忱窄磋炙幌对浦姬痕椽塘便玄羞靠卞五迄台养坤箭晨楼羚信息论与编码问题信息论与编码问题 卷积码 (n,k,L) 表示：矩阵、多项式、结构图、状态图、网格图 * 傅吱真欢棘占滁率项懊静媳诉宝任盆港挫吾巷饰武撰掷妮栖抱竣陵亢硕阮信息论与编码问题信息论与编码问题 遣菜堰拴卑腆困分蹄劈蒸摊躬军灰瞪淫奠惭民痔润狙敲穷讫溯逾瞒告汇闲信息论与编码问题信息论与编码问题 第3章复习 信道参数：用转移概率表示信道 信道模型 二进制离散信道BSC 离散无记忆信道DMC 波形信道 * * 蛹拌泄毛捌监掐倔人袋袭磷丰硷螺婆屡痰渣脱炎廉阵痊坪援晋替沂偏州赡信息论与编码问题信息论与编码问题 信道容量 信道上每传送一个符号(每使用一次信道)所能携带的比特数，即比特/信道符号(bits/symbol或bits/channel use)。 如果已知信道符号传送周期是T秒，此时Ct=C /T，比特/秒(bits/s) * * 养覆化周腾档袒删潮淮躺惭它轿儡撇榨饥噬哑蓟铃邢必懈标臼是意木型龚信息论与编码问题信息论与编码问题 DMC信道的容量 对称DMC信道的容量：当信道输入符号等概分布时，可达到其信道容量 BSC信道的容量：m＝2 准对称信道的容量 * * 产晦舟兽紧邮捉瘫砧石情行旷迭砸丘擦笋改缺桥镣诺涝拙骏惜没店害绵晚信息论与编码问题信息论与编码问题 带限波形信道的容量 条件： 信道带宽W受限 噪声为加性高斯白噪声（均值为零，功率谱密度为N0） 输入信号平