第13讲 算术编码(1.docVIP

第13讲 算术编码（1） 简介（brief） 算术编码是一种无损数据压缩方法，是图像压缩的主要算法之一，由IBM的信息论学家J. Rissanen于1976年发明。同霍夫曼码一样，算术码也属于概率匹配码。不同的是，算术编码不是分组码，而是全序列编码，将整个数据编码为一个大于等于0小于1的二进制数值。尽管霍夫曼码是最优的分组码，算术码与霍夫曼码相比具有如下两个优点：（1）不使用码本，避免了码本太大对于压缩效果的影响；（2）编码效率是可变的，随着数据长度增大而增大，并逐渐收敛于最大值1。因此，算术编码的效率将随着数据长度增大而超过任何霍夫曼编码，具有渐近最优性。 算术码的编码和译码算法中主要使用加法和乘法这两种算术运算。 直观思想 所有的方法和灵感来自于人的直觉，算术码的发明也是这样的。算术码的直观想法是，对全概率区间[0,1)进行划分，为每个信源序列确定一个唯一的子区间，使得该子区间的长度恰好等于该信源序列的概率，然后在该子区间中取一个尽可能短的二进制数作为码字。 这里我们先介绍构造各信源序列的概率区间的直观想法。假设一个离散无记忆信源有三个信源符号{a1，a2，a3}，概率分别为p(a1)，p(a2)和p(a3)。首先将[0,1)划分为3个半闭半开的子区间I(a1)，I(a2)和I(a3)，其长度分别为p(a1)，p(a2)和p(a3)。对这些区间继续按照同样的长度比例