南邮 信息论基础c 复习课.pptVIP

密钥设计：两个密钥：公钥（e，n） 私钥（d，n） 加密解密： 加密时： 解密时： RSA密码体制（2） 能获得最佳码的编码方法主要有： 香农（Shannon） 费诺（Fano） 哈夫曼（Huffman）等 信源消息符号ai 符号概率(ai) 累加概率Pi -log p(ai) 码字长度Ki 码字 a1 0.20 0 2.32 3 000 a2 0.19 0.2 2.39 3 001 a3 0.18 0.39 2.47 3 011 a4 0.17 0.57 2.56 3 100 a5 0.15 0.74 2.74 3 101 a6 0.10 0.89 3.32 4 1110 a7 0.01 0.99 6.64 7 1111110 例 设信源共7个符号消息，其概率和累加概率如下表所示。 例 对以下信源进行费诺编码。 消息符号ai 各个消息概率 p(ai) 第一次分组 第二次分组 第三次分组 第四次分组 二元码字 码长Ki a1 0.20 0 0 00 2 a2 0.19 1 0 010 3 a3 0.18 1 011 3 a4 0.17 1 0 10 2 a5 0.15 1 0 110 3 a6 0.10 1 0 1110 4 a7 0.01 1 1111 4 第6章 信道编码 掌握纠错编码的分类、差错控制系统分类、信道编码定理； 了解纠错编码的基本思路、最优译码与最大似然译码； 掌握线性分组码的生成矩阵和校验矩阵、伴随式的基本概念； 掌握线性分组码的码距，纠错能力、MDC码； 掌握循环码的基本概念、生成多项式、校验多项式，及其对应的生成矩阵和校验矩阵 差错类型 差错符号：由符号发生差错引起，也叫信号差错，信号差错概率用误码元率表示 差错比特：由信息比特发生差错引起，也叫信息差错，信息差错概率用误比特率表示 对于二进制传输系统，符号差错等效于比特差错； 对于多进制系统，一个符号差错到底对应多少比特差错却难以确定。因为一个符号由多个比特组成。 差错图样类型 随机差错：若差错图样上各码位的取值既与前后位置无关又与时间无关，即差错始终以相等的概率独立发生于各码字、各码元、各比特； 突发差错：前后相关、成堆出现。突发差错总是以差错码元开头、以差错码元结尾，头尾之间并不是每个码元都错，而是码元差错概率超过了某个额定值。 二、纠错码分类 从功能角度：检错码 、纠错码 码元与原始信息位的关系：线性码、非线性码 对信息序列的处理方法：分组码、卷积码 差错类型：纠随机差错码、纠突发差错码、介于中间的纠随机/突发差错码。 构码理论：代数码、几何码、算术码、组合码等 三、差错控制系统分类 前向纠错（FEC）：发端信息经纠错编码后传送，收端通过纠错译码自动纠正传递过程中的差错 反馈重发（ARQ）：收端通过检测接收码是否符合编码规律来判断，如判定码组有错，则通过反向信道通知发端重发该码 混合纠错（HEC）：前向纠错和反馈重发的结合，发端发送的码兼有检错和纠错两种能力 正定理：只要传信率R小于信道容量C，总存在一种信道码（及解码器），可以以所要求的任意小的差错概率实现可靠的通信。 逆定理：信道容量C是可靠通信系统传信率R的上边界，如果R C，就不可能有任何一种编码能使差错概率任意小。 信道编码定理 最佳译码，也叫最大后验概率译码(MAP) 最大似然译码( MLD) 6.2.2最优译码与最大似然译码 消息组mi 码字ci 接收码r 估值 消息 编码器 信道 译码 消息还原 6.3 线性分组码 消息m (n , k) 码字c m=(mk-1,…,m1,m0) 分组编码器 c=(cn-1,…,c1,c0) qk qn 码集C能否构成n维n重矢量空间的一个k维n重子空间？ 如何寻找最佳的码空间？ qk个信息元组以什么算法一一对应映射到码空间。 码率－－编码效率：Rc =k/n 6.3.1 生成矩阵和校验矩阵 c ＝ m G 1×n 1×k k×n 码字 消息