唯一可译码.ppt

编码理论 编码理论的基本概念 编码理论的发展 编码理论研究的内容和目的 编码理论的基本概念 根据信息论的各种编码定理和通信系统的性能指标，编码可分为信源编码、信道编码和密码编码三类 通信系统模型的组成部分和功能说明 译码部分——编码部分的逆过程 编码理论的发展 编码理论研究的内容和目的 编码理论是以信息作为主要研究对象，以信息的运动规律和利用信息的原理作为主要的研究内容，以信息科学方法论作为主要的研究方法，以扩大人的信息功能为主要研究目的的一门新兴科学。它的基本理论是信息论，控制论和系统论。 密码：是以提高通信系统的安全性为目的的编码。通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。 8惟一可译码： 若码的任意一串有限长的码符号序列只能被唯一的译成所对应的信源符号序列，则称此码为惟一可译码。 3）将从根到终端节点的路径上的编号依次相连，作为该终端节点所表示的字符的编码。 1）从树根出发，根据接收到的第一个码字符号来选择应走的第一条路径。 2）沿所选路径走到分支结点，在根据收到的第二个码字选择应走的第二条路径。直至走到终端结点为止。 3）根据所走路径，可立即判断出接收到的码符号。 4）重新返回到树根，再作下一个接收码符号的判断。 4.惟一可译变长码的判断法 根据惟一可译码的定义可知,当且仅当有限长的码符号序列能译成两种不同的码字序列,则此码不是惟一可译变长码.如下图情况发生, 其中Ai 和 Bi都是码字. 3.按照上述步骤将最短、次短的码字、…所有码字可能产生的尾随后缀全部列出.由此得到由码C的所有可能的尾随后缀组成的集合F. Example: 现设码C={0,10,1100,1110,1011,1101},根据上述测试方法来判断是否是惟一可译码. Example1: 有一信源，它有六个可能的输出，其概率分布如下表，表中给出了对应的码A,B,C,D,E,F. (1)求这些码中哪些是惟一可译码； (2)求哪些是非延长码（即时码）； (3)对所有唯一可译码求出其平均码长L Example2: 例子：用树图的形式构造即时码。 0 1 0 0 1 1 1 1 01 001 0001 码4的树图 1 0 1 1 0 0 0 0 10 110 1110 码4的树图 树根——码字的起点 树枝数——码的数 节点数——码字的一部分 节数——码长 端点——码字 整树——等长码 非整树——变长码 译码方法： ?3°按译码唯一性分类 唯一可译码：对于多个码字组成的有限长码流，只能唯一地分割一个个的码字。唯一可译码又称为单义码. 非唯一可译码：对有限长码流，不能唯一地分割一个个的码字。 分组码（块码）分类 1°按码字的码长分类 定长码：码集中所有码字的码长相等。 变长码：码集中所有码字的码长不全相等。 2°按信源符号与码字对应关系分类 非奇异码：信源符号与码字是一一对应的。 奇异码：信源符号与码字不是一一对应的。 4°按译码的即时性分类 非即时码：接收端收到一个完整的码字后，不能立即译码；还需要等到下一个码字开始接收后才能判断是否可以译码。 即时码：接收端收到一个完整的码字后，就能立即译码；即时码又称为非延长码或异前缀码(前缀条件码)。 注：异前缀码(即时码)指的是码集任何一个码不能是其他码的前缀. 即时码必定是唯一可译码, 唯一可译码不一定是即时码. 5°有实用价值的分组码 分组码是非奇异码、唯一可译码、即时码 。 ? 3、克拉夫特（Kraft）不等式 定理 对于码符号为 的任意即时码，所对应的码长为 ，则必定满足： 后来，B.McMillan证明了对于唯一可译码也必须满足上面的不等式。 反之，若码长满足上式，则一定存在这样的即时码 。 可以根据即时码的树图构造法来证明。 定理 若存在一个码长为 唯一可译码，则一定存在一个同样长度的即时码。 这说明，其它唯一可译码在码长方面并不比即时码占优。所以在讨论唯一可译码时，只需要讨论即时码就可以了。 A1 A2 A3 … Am B1 B2 B3 Bm … 当图中的情况发生时, B1一定是 A1 的前缀, 而 A1 被B1 截去前面部分后的尾随后缀一定是另一个码字B2 的前缀;又B2的尾随后缀又是其他码字的前缀.最后,码符号序列的尾部一定是某个码字.由此可得,惟一可译码的判断方法是:将码C中所有码字可能的尾随后缀组成一个集合F,当且仅当集合F中没有包含任一码字,则可判断此码C为惟一可译码. 如何构成F