05-信源编码.pptVIP

第5章 信源编码 游程编码 游程： 数字序列中连续出现相同符号的一段。 二元序列的游程：只有“0”和“1”两种符号。 连“0”这一段称为“0”游程,它的长度称为游程长度L(0)； 连“1”这一段称为“1”游程,它的游程长度用L(1)表示。 游程编码 二元独立序列游程长度概率 若规定二元序列总是从“0”开始,第一个游程是“0”游程,则第二个游程必为“1”游程,第三个又是“0”游程……。 对于随机序列,游程长度是随机的其取值可为1,2,3,…，直至无穷。 游程长度序列/游程序列：用交替出现的“0”游程和“1”游程长度表示任意二元序列。 游程变换： 是一种一一对应的变换,也是可逆变换。 例如：二元序列000101110010001… 可变换成如下游程序列 游程编码 游程变换减弱了原序列符号间的相关性。 游程变换将二元序列变换成了多元序列； 这样就适合于用其他方法,如哈夫曼编码,进一步压缩信源,提高通信效率。 编码方法： 首先测定“0”游程长度和“1”游程长度的概率分布,即以游程长度为元素,构造一个新的信源； 对新的信源(游程序列)进行哈夫曼编码。 5.4.2 算术编码 算术编码是近十多年来发展迅速的一种无失真信源编码,它与最佳的哈夫曼码相比,理论性能稍加逊色,而实际压缩率和编码效率却往往还优于哈夫曼码,且实现简单,故很受工程上的重视。 算术编码不同于哈夫曼码,它是非分组(非块)码。它从全序列出发,考虑符号之间的关系来进行编码。 算术编码利用了累积概率的概念。 算术码主要的编码方法是计算输入信源符号序列所对应的区间。 算术码的主要概念 算术码的主要概念： 把信源输出序列的概率和实数段[0,1]中的一个数C联系起来。 设信源字母表为{a1, a2},其概率p(a1)=0.6, p(a2)=0.4 将[0,1]分成与概率比例相应的区间,[0,0.6] [0.6,l] 累积概率 设信源符号集A={a1,a2,…,an},其相应概率分布为p(ai), p(ai) 0(i=1,2, …,n) 信源符号的累积概率为 累积概率Pr+1和Pr都是小于1的正数,可用[0,1]区间内的两个点来表示; 算术编码 计算二元无记忆信源序列的累积概率 初始时：在[0,1)区间内由P(1)划分成二个子区间[0, P1 )和[P1 ,1) , P(1) = p(0) 。 子区间[0, P1 )的宽度为A(0)= p(0) ,对应于信源符号“0”； 子区间[P1 ,1)的宽度为A(1)= p(1) ,对应于信源符号“1”； 若输入符号序列的第一个符号为S =“0”,落入[0, P1 )区间,得累积概率 P (S =“0”)= P(0) = 0； 若输入第二个符号为“1”,S =“01”, S =“01”所对应的区间是在区间[0, P(1) )中进行分割； 符号序列“00”对应的区间宽度为 A(00)=A(0) p(0)=p(0)p(0)= p(00)； 对应的区间为[0,P(S =“01”))。 符号序列“01”对应的区间宽度为 A(01) =A(0) p(1)= p(0)p(1)= p(01) = A(0)－A(00)； 对应的区间为[P(S =“01”),P(1))。 累积概率: P(S =“01”)=p(00)= p(0)p(0) 设输入符号序列S = 011 011→S1, S=01 输入序列S1=“011”对应的区间是对区间[P(S), P (1))进行分割 序列S0=“010”对应的区间宽度为 A(S =“010”)=A(S=“01”)p(0)=A(S) p(0) 其对应的区间为[P(S), P(S)+ A(S) p(0))； 序列S1=“011”对应的区间宽度为 A(S=“011”)=A(S)p(1) =A(S =“01”)－A(S =“010”)= A(S)－A(S0) 其对应的区间为[P(S)+ A(S) p(0),P(1))； 当前面输入符号序列为S,若接着输入一个“0”, 累积概率: P(S0)= P(S) 对应区间宽度为： A(S0)=A(S)p(0) 算术编码 符号序列对应的区间宽度 A(S=“0”) = p(0) A(S=“1”) = 1－A(S=“0”)=p(1) A(S=“00”) = p(00) = A(0) p(0) = p(0) p(0) A(S=“01”) = A(S=“0”)－A(S=“00”) = p(01)= A(0) p(1) = p(0) p(1) A(S=“10”) = p(10)=