密码学基础 编码原理02.pptVIP

纠错编码原理 通信抗干扰国家重点实验室 Tel: 清水河校区主楼403室 信道编码与香农容量 信息度量、信道容量、香农编码定理、香农限计算 例1 ：4-重复码的纠错译码操作 例2: 传输4比特信息,为纠正可能的任意一个错,构造码字为2维偶校验阵列即(9,4)码如下,码率R=4/9 其中p02,p12分别是第1,2行的偶校验码元， p20, p21分别是第1,2列的偶校验码元，p22是第3行或第3列的偶校验码元 显然任意1位码元错误一定在某特定行和某特定列上同时导致偶校验失效，从而确定此码元错误, 实现纠正一个错误 怎样的码是好码? 不可能不付出代价或使用资源去实现: 在噪声信道上的无差错信息传输或通信 通信资源: 时间T,　带宽B,　能量E 目标：高正确率，尽可能多传送信息 信息量与信道容量 信息量或熵: 由一个符号集和其上的概率分布所界定的信源{X, P(x)}所具有的信息量或熵为: 信息量反映的就是信源的不确定度. 信息量与信道容量(续) 信息量与信道容量(续) 信息量与信道容量(续) 信道容量是给定信道上的最大信息传输速率， BSC信道的信道容量为： 课本中用 表示互信息 比特传输速率Rt 信道在单位时间内传输的数据比特数 比特信息速率Rb 原始信源在单位时间内发送的信息比特数 在二元情形中同传信率Rinfo 若编码码率为Rc，则 通信总是一个统计过程,纠检错能力最终要反映到差错概率上, 纠错译码的目的是最小化译码比特差错概率pb(e) 信道传输比特差错率Pt(e) 传输中差错比特数与总发送比特数的比值 ，由具体的调制解调方式确定。如: 均匀分布的信源, BPSK 传输时， Pt(e)= PBPSK(e) 信息比特差错率Pb(e) （又称误码率） 错误信息比特数与总发送的信息比特数的比值，由具体编码译码方式和Pt(e)确定。 传输比特能量Es 发送一个传输比特的能量，是实际的物理能量消耗 信息比特能量Eb 发送一个信息比特所需的能量 在发送功率保持不变的条件下，传输一个消息符号等效的消息符号能量为 香农编码定理 信息传输的终极目标 信息比特差错概率最小化Pb (e)?0 香农编码定理: 存在一种编码码率Rc≤C的分组码按最大似然译码准则译码时,当码长n→∞,信息比特差错概率Pb(e)→0,反之,若RcC,则不存在任何条件下的分组码使Pb(e)→0. 香农编码定理(续) 通信资源与香农限 不可能不付出代价或使用资源去实现无差错信息传输或通信 通信资源: 时间T,　带宽B,　能量E 时间序列上的纠错编码导致传输带宽扩展1/Rc=n/k倍 平均传送功率不变条件下传输符号能量降低1/Rc=n/k倍 纠错编码对能量的最小需求是传输信息比特能量的最小需求 香农限: 单位时间单位带宽上传输1比特信息所需要的最小信噪比(Eb/N0) 离散AWGN信道的信道容量 由香农编码定理有： 评价3-重复码（3，1） 问题成为：信道的差错概率为p=？，若用重复码（3，1）后，转移概率3*10-4 信道的差错概率为p=0.01，若用重复码（3，1）后，转移概率=2.98*10-4 * 0111 1001 1010 1011 1100 1101 1110 1111 0000 0001 0010 0011 0100 0101 0110 1000 译码输出 接收分组 译码输出 接收分组 0，无错 0，单错纠正 0，单错纠正 双错 0，单错纠正 双错 双错 1，单错纠正 双错 双错 1，无错 1，单错纠正 1，单错纠正 1，单错纠正 双错 0，单错纠正 发送0000 发送1111 √ √ √ * * * 纠错个数相同, 码率高 , 而且是越高越好 极限? 香农(shannon)限 香农(shannon)编码定理和香农(shannon)限 条件熵 二进制对称信道（BSC） 信道输入、输出： 转移概率矩阵为 ： BSC 信道的条件熵 互信息 BSC信道的互信息 显然在p=0.5时，CBSC=0， BSC信道容量 信息序列m 码字序列c 编码 信息估计序列 V 接收序列（分组） 信道 码字估计序列 译码 当 ＝c时，有 ＝m，译码正确 时，译码错误 信道干扰严重，超过了码的纠错能力 信息减损率L 由信道的噪声使得信息不能正确传送的损失。 L=1- CBSC(P(e)) 信息减损率L 1 0.4690 0.286 0.048 0.0015 0.000015 传信率