2014年《信息论》(电子科大)第3章 离散信源无失真编码.pptVIP

例2，分别对下列单符号离散信源和该信源的二次扩展信源 编二进制香农码，并计算其编码效率。 解：⑴对单符号离散信源编码 pa(x1)=0 pa(x2)=0+0.5=0.5 pa(x3)=0.5+0.3=0.8 pa(x1)=0.0=(0.0)2→0 pa(x2)=0.5=(0.10)2→10 pa(x3)=0.8=(0.110…)2→110 xi p(xi) pa(xj) ki 码字 x1 0.5 0 1 0 x2 0.3 0.5 2 10 x3 0.2 0.8 3 110 ⑵对二次扩展信源编码 将符号元ai按概率进行降序排列 pa(a1)=0 pa(a2)=0+0.25=0.25 pa(a3)=0.25+0.15=0.4 pa(a4)=0.4+0.15=0.55 pa(a5)=0.55+0.1=0.65 pa(a6)=0.65+0.1=0.75 pa(a7)=0.75+0.09=0.84 pa(a8)=0.84+0.06=0.9 pa(a9)=0.9+0.06=0.96 pa(a1)=0.0=(0.00)2→00 pa(a2)=0.25=(0.010)2→010 pa(a3)=0.4=(0.011…)2→011 pa(a4)=0.55=(0.1000…)2→1000 pa(a5)=0.65=(0.1010…)2→1010 pa(a6)=0.75=(0.1100)2→1100 pa(