第三部分信源编码一离散信源无失真编码.pptVIP

算术编码 经过算术编码，上例题的结果为1000011，用7比特 的码字表示了8比特的信息 算术编码 1、初始化：起点P＝0，宽度A＝1 2、如码元全部处理，转第五步 3、读入的码元为0，区间的起点P不变，宽度缩短为Ap,用公式P=P，A=Ap迭代计算，转第二步 4、读入的码元为1，区间的起点右移Ap，宽度缩短为A(1-p)，用公式P=P+Ap，A=A(1-p)迭代计算，返回第二步 5、根据区间的最终宽度A，通过2-L≤A2-(L-1)求得码字长度，将区间起点P截取小数点后L位，剩余部分若不为0，进位到小数点后第L位 若 Eg：s=011，说明U＝（000, 001, 010, 011, …, 111）, 所以 若 所以 其中 Eg：sp(0)=1/4, p(1)=3/4, 所以有H(u)=0.81bit/符号； ， A：通过计算来编码， F(s)=p+p+…+p =1-p-p-p -p=1-p(1111111)-p(1111110) =1-p(111111) =1- =0.110100100111 所以C(s)=0.1101010 B：用递推公式编码 输入符号 P(s) L(s) F(s) C(s) 1 0.11 1 0.01 0.1 1 0.1001 1 0.0111 0.1 1 0.011011 2 0.100101 0.11 1 02 00.11 1 0.0011110011 3 0.1100001101 0.111 1 0.001011011001 3 0.110100100111 0.111 0 0.00001011011001 5 0.110100100111 0.11011 0 0.0000001011011001 7 0.110100100111 0.1101010 C：用〔0,1）区间表示 第三章结束 DMS的等长编码 事件(u1u2…uL)属于典型序列集TU(L, 0.01)；当且仅当 -0.01≤IL-H(U) ≤0.01；当且仅当 DMS的等长编码 设L=252435。此时 0=692.61096 ； 0=1326.8690 。 当事件(u1u2…u252435)中a1的个数不超出闭区间[693，1326]内时， (u1u2…u252435)∈TU(252435, 0.01)； 否则(u1u2…u252435)不属于TU(252435, 0.01)。 (u1u2…u252435)∈ TU(252435, 0.01)的概率不小于0.99； (u1u2…u252435)∈ TU(252435, 0.01)的个数为 DMS的等长编码 对L=252435，对应地取整数N=[R0L]=126217。则N/LR0，这就是说2元编码的实际编码速率小于编码设备的编码速率。 2元编码的编码方法： 将TU(252435, 0.01)中的事件用不同的126217长码字表示；将TU(252435, 0.01)外的事件用同一个126217长码字表示，该码字已经用于表示了TU(252435, 0.01)中的一个事件。由于|TU(252435, 0.01)|≤212012.66172126217，码字足够用。 2元编码的译码方法： 将码字译为它所表示的TU(252435, 0.01)中的事件(u1u2…u252435) 。于是，译码错误的概率为 P((u1u2…u252435)不属于TU(252435, 0.01))≤ε=0.01。 3.3 DMS的不等长编码 DMS的不等长编码 （1）不等长编码的优越性 总体上减少码字的长度。 （2）不等长编码的特殊问题 唯一可译性，或者叫做可识别性。对于一个码，如果存在一种译码方法，使任意若干个码字所组成的字母串只能唯一地被翻译成这几个码字所对应的事件序列。这个码就被称为是唯一可译的。 解决方案：适当地编码，使得每个码字都具有识别标记。 （注解：一个唯一可译的、码字长度不超过N的D元码，其码字个数小于D(DN-1)/(D-1)个。这是因为两个码字c(1)和c(2) 连接成的字母串c(1)c(2) 不能是码字） 平均码长 希望平均码长小。 解决方案：概率大的事件用短码字。 不等长编码面临问题 同步问题 划分唯一性 译码延迟 缓存问题 几个定义 唯一可译码 逗点码，无逗点码：若①事件与码字一一对应；②每个码字的开头部分都是一个相