第三章信源编码离散信源无失真编码.pptVIP

第三章：信源编码（一）

离散信源无失真编码§3.1信源及其分类§3.2离散无记忆（简单）信源的等长编码§3.3离散无记忆（简单）信源的不等长编码§3.4最佳不等长编码§3.5算术编码和LZ编码2026/4/211

§3.3离散无记忆（简单）信源的不等长编码（顺序地叙述以下的概念）（1）不等长编码的优越性总体上减少码字的长度。（2）不等长编码的特殊问题①唯一可译性，或者叫做可识别性。对于一个码，如果存在一种译码方法，使任意若干个码字所组成的字母串只能唯一地被翻译成这几个码字所对应的事件序列。这个码就被称为是唯一可译的。解决方案：适当地编码，使得每个码字都具有识别标记。（注解：一个唯一可译的、码字长度不超过N的D元码，其码字个数小于D(DN-1)/(D-1)个。这是因为两个码字c(1)和c(2)连接成的字母串c(1)c(2)不能是码字）2026/4/212

§3.3离散无记忆（简单）信源的不等长编码②平均码字长度。设信源随机变量U的概率分布为{ak,p(ak),k=1~K}，事件ak对应的码字长度为nk，则平均码字长度为希望小。解决方案：概率大的事件用短码字。③实时译码和容量限制。2026/4/213

§3.3离散无记忆（简单）信源的不等长编码唯一可译性的两种解决方法定义3.3.2(p51)若①事件与码字一一对应；②每个码