第4章 信息传输与信息编码 信息相关管理原理与方法(第2版）.pptVIP

4.1 信息传输概述 4.1.1 信息传输的概念 4.1.2 信息传输的模型 4.2 信道编码 4.2.1 信道模型 4.2.2 错误概率与译码规则 4.2.3 错误概率与编码方法 4.2.4 检错与纠错 4.3 二元线性码 4.3.1 有限域上的线性空间 4.3.2 线性码的生成矩阵与校验矩阵 4.3.3 线性码的汉明重量和系统码 4.3.4 线性码的编码 4.3.5 线性码的译码 ;（1）掌握信息传输的基本概念及模型； （2）掌握信息传输平均错误概率的计算方法； （3）理解信源编码和信道编码的概念及作用； （4）掌握二元线性码的信道编码过程及相关计算方法。;4.1.1 信息传输的概念 信息可以脱离其源事物独立存在。 信息传输就是信息脱离源事物而附着于一个物理载体并通过载体的运动将信息在空间中从一点传送到另一点。 信息传输的核心问题是保证传输的可靠性、有效性和保密性。 信息传输，其实只是语法信息的传输，且主要是概率语法信息的传输。 通常，把一种事物运动的表征脱离源事物而附着于另一种事物的过程，称为信息的表示过程，或叫做“信息变换”过程。 信息在空间中传送的过程，可能要经过多次变换，要变更多种不同的载体。载体既要能够在空间中转移，又要有能力表示所传输的信息。 把能将自己的某种物理量与所附着的信息建立一一对应关系的物理载体称为信号。;4.1.2 信息传输的模型 1．信息传输的基本模型;2. 信息传输的一般模型 为了保证信息传输的安全与保密，把信息传输的基本模型改为如下图4.2的一般模型： ;2．单符号离散信道的数学模型 单符号离散信道的输入变量为X，取值于{a1, a2, …,ar}，输出变量为Y，取值于{b1, b2, …, bs}，并有条件概率(信道的传递概率) ： P(y|x)= P(y=bj|x=ai) = P(bj |ai) (i=1,2,···,r；j=1,2, ···, s)， 这一组条件概率称为信道的传递概率或转移概率。 模型：;一般离散单符号信道的传递概率可用以下形式的矩阵来表示： 并满足式 。;已知发送符号 ai ，通过信道传输接收到的符号为 bj 的概率 P(bj|ai)称为前向概率。已知信道输出端接收到的符号为 bj，而发送符号为 ai 的概率P(ai|bj)称为后向概率。 有时，也把 P(ai)称为输入符??的先验概率（即在接收到一个输出符号以前输入符号的概率），而对应地把 P(ai|bj)称为输入符号的后验概率（即在接收到一个输出符号以后输入符号的概率）。;4.2 信道编码 ;4.2.2 错误概率和译码规则 1．错误概率与信道统计特性有关 信道的统计特性可由信道的传递矩阵来描述。 当确定了输入和输出对应关系后，也就确定了信道矩阵中哪些是正确传递概率，哪些是错误传递概率。 2．错误概率与译码规则有关 通信过程一般并不是在信道输出端就结束了，还要经过译码过程(或判决过程)才到达消息的终端。 译码过程和译码规则对系统的错误概率影响很大。 ;3．译码规则 设离散单符号信道的输入符号集为A={ai}，i＝1,2,···,r ；输出符号集为B={bj}，j＝1, 2, ···, s。定义译码规则就是设计一个函数F(bj)，它对于每一个输出符号bj 确定一个惟一的输入符号ai与其对应(单值函数)，即 F(bj)= ai ( i ＝1,2,···, r j ＝1,2, ···, s ) ;例 4.2 有一离散单符号信道，信道矩阵为： 根据这个信道矩阵，设计两种不同的译码规则： 由于s个输出符号中的每一个都可以译成r个输入符号中的任何一个，所以共有rs 种译码规则可供选择。;两种主要的译码准则 （1）最大后验概率准则 为了选择译码规则，首先必须计算平均错误概率。 在确定择码规则F(bj)=ai 后，若信道输出端接收到的符号为bj，则一定译为ai ，如果发送端发送的是ai ，就为正确译码；如果发送的不是ai ，就为错误译码。那么，收到符号bj 时择码的条件正确概率为： P[F(bj)|bj]=P(ai|bj) 令P(e|bj)为条件错误概率，其中e表示除了F(bj) =ai 以外的所有输入符号的集合。条件错误概率与条件正确概率之间存在关系： P[e|bj]=1- P(ai|bj)=1-P[F(bj)|bj] 在译码理论中，称条件错误概率P(e|b