实验三 香农编码.pdfVIP

实验三 香农编码 一、[实验目的] 1、理解香农第一定理指出平均码长与信源之间的关系； 2、加深理解香农编码具有的重要的理论意义。 二、[实验环境] windows XP,MATLAB 7 三、[实验原理] 香农第一定理： 设离散无记忆信源为 S s1 s2 sq ⎡ ⎤ ⎡ ⎤ = ⎢ ⎥ ⎢ ⎥ P p(s1) p(s2) p(sq) ⎣ ⎦ ⎣ ⎦ 熵为H(S)，其N次扩展信源为 ⎡SN⎤ ⎡ α1 α2 αq ⎤ ⎢ ⎥ = ⎢ ⎥ ⎣ P⎦ ⎣p(α1) p(α2) p(αq)⎦ N N 熵为H(S)。码符号集X=（x1,x2,…,xr）。先对信源 进行编码，总可以 S 找到一种编码方法，构成惟一可以码，使S中每个信源符号所需的平均码长满足： H（S） 1 L H（S） + N ≥ logr N N logr L 当N→ 时 N ∞ lim = H (S) r N→∞ N N q L 是平均码长 L = ∑p(α )λ λ是α 对应的码字长度 N N i i i i i=1 四、[实验内容] 根据实验原理，设计shannon编码方法，在给定 S S SS s1 s2 s3 s4 s5 s6 s7 = P P PP 0.2 0.19 0.18 0.17 0.15 0.10 0.01 条件下，实现香农编码并算出编码效率。 五、[实验过程] 每个实验项目包括： 1)设计思路 1.将消息符号概率降序排列 2.计算累加概率 3.计算码长,取整 4.去除小数点，将累加概率变换成二进制数 5.取小数点后k位数作为代码组 6、实验代码： clc;clear all; S=[0.2,0.19,0.18,0.17,0.15,0.10,0.01] S=fliplr(sort(S));%降序排列 [m,n]=size(S); %计算码长,取整 for k=1:n L(k)=ceil(-log2(S(k))); end L %计算累加概率 S1(1,n)=0; for j=1:n-1 S