二差值脉冲编码DPCM-Read.PPT

第3章 数字编码 3.1 信源编码 3.2 信道容量 3.3 差错控制编码 3.4 几种差错控制编码简介 3.5 数字压缩编码 3.1 信源编码 3.1.1 信息的度量 3.1.2 离散信源编码 3.1.3 模拟信源编码 3.1.1 信息的度量 一．离散信源的信息度量 信源发出的消息由于具有不确定性而具有信息量，消息的不确定度越高，其相应的信息量就越大 设信源发出消息Xi的概率为p(i)，则I(Xi)=log[1/p(i)]就是消息Xi提供的自信息量。 I(Xi)只表示了一个具体消息Xi所具有的不肯定程度，但不能表示Xi所属信源的总体不肯定度 定义信源的平均信息量就是信源X输出一个消息所提供的平均信息量，也叫做信源熵。 显然，具有n个独立符号的信源在各个符号等概率分布时，信源的熵HN(x)最大，为log2N。 如果信道没有噪声干扰，则发送消息Xi就必然收到Yi，即收到消息yi后即可确定发送为xi。 当信道中有干扰时，收到消息yi后不能完全确定发送的一定就是xi。 对无扰信道而言，H(x/y)=0 有扰信道的H(x/y)≠0 在无干扰情况下，收信者从信源收到的每个消息中得到的平均信息量等于信源的不肯定度H(x)；当信道存在于扰时，收信者得到的平均信息量将小于H(x)。 3.1.2 离散信源编码 离散信源的编码通过尽量使消息符号等概率出现或出现概率接近，使信源的平均信息量提高。 具体地说，就是将出现概率大的消息符号编成位数少的短码、而出现概率小的符号编成长码。 比较常用的编码法有香农—范诺编码（Shannon—Fano）和霍夫曼编码（Huffman）， 香农一范诺编码法具体方法及步骤： ①首先把各个消息按其出现概率的大小，由大到小重新排列； ②将这个重排的概率序列分成两组，每组的概率之和尽可能接近或相等。然后，再对每一组又进行同样的分组，仍然使分成的相应两组概率之和尽可能相等，这时就得到四个分组了。如此继续进行下去，直至每个消息都被单独分割出来为止。 ③对每一次划分出的第一组的消息分配一个0，第二组消息则分配一个1。最后，每个消息的二元编码就由它分得的所有的0、1序列给定。 3.2 信道容量 3.2.1 信道容量 3.2.2 香农公式 3.2.1 信道容量 一．信道容量——信道可能达到的最大传信率，用符号C表示 实际信源的符号之间往往存在相关性且不等概分布，使信源熵远远低于上述理想情况的数值。因此，要想使信源输出的信号具有较大的信息量，必须在其送入信道前再进行编码，使信源的熵速率接近信道容量，即使信源和信道相匹配。 3.2.2．香农公式 1. 平均功率受限的高斯白噪声信道，当输入信号为高斯分布时，在一定带宽的信道上，单位时间内能够无差错地传递的最大信息量为Wlog2(1+P/N)。 2．信道容量C与信道带宽W和信号噪声功率比P/N有关，W或P/N愈大，C就愈大。 3．对于平均功率受限的信道，高斯白噪声的危害最大，因为此时噪声的熵最大，所以信道容量C=[Ht(y)－Ht(n)]max最小. 3.3 差错控制编码 3.3.1 差错控制编码的概念 3.3.2 差错控制技术 3.3.1 差错控制编码的概念 一．误码控制基本原理 为了能使接收端判断传送来的信息是否有误，发送端在传送数据之前增加了一些相关的信息；如果还要能够纠正错误的话，则需要增加更多的信息。当没有错误出现时，这些信息完全是多余的；但一旦发生误码，即可利用被传数据与相关信息之间的特定关系来发现/纠正错误，这就是差错控制编码的基本原理。 换句话说，为了使信源编码输出的代码具有检错和纠错能力，发信端按一定规则在信源编码的基础上，增加一些冗余码元(又称监督码)，使这些监督码与被传信息码之间有一定的关系，这就是差错控制编码。在接收端，根据信息码与监督码的特定关系，实现检/纠错，输出原信息码元，这就是差错控制译码(或解码)。 3.3.2 差错控制技术 一．差错控制方式 常见差错控制编码的工作方式有前向纠错（FEC）、检错重发（ARQ）、混合纠错（HEC）三种。 检错重发（ARQ） 其消息一方面通过前向信道送至接收端，同时也送至缓存器存储。接收端对接收信息进行译码和检错，如果没有发现错误，则将该译码信息输出；如果检测到错误，则触发重发指令从反向信道向发送端发出请求重发指令和错误码组编号，同时停止输出。发信端收到该请求后，立即重发发生传输差错的那部分已发信息，直到接收端正确接收为止。显然，ARQ方式发送的是检错码。 (2)前向纠错FEC FEC发信端采用具有一定纠错能力的纠错码规则将信码编码后发送出去，使接收端在收到信码后不仅能发现错码，还能够纠正错码。 （3）混合纠错 混合纠错法在发生少量差错时利用纠错码的纠