信息论与编码考试答案.docVIP

B卷答案 一、设有一离散无记忆信源，其概率空间为 （1）求每个符号的自信息量； （2）信源发出一消息符号序列为202 120 130 213 001 203 210 110 321 010 021 032 011 22 3 210，求该消息序列的自信息量及平均每个符号携带的信息量。 解： （1）每个符号携带的自信息量： I 0 －log3/8 1.42bit, I 1 －log1/4 2bit I 2 －log1/4 2bit, I 3 －log1.8 3bit （2）消息序列的自信息量： I 14I 0 +13I 1 +12I 2 +6I 3 87.8bit 平均每个符号携带的信息量为 I/n 87.8/45 1.95比特/符号 二、某信源有8个符号，···，，概率分别为，，，，，，，，试编成000,001,010,011,100,101,110,111的码。 （1）求信源的符号熵H U ； （2）求这种码的编码效率； （3）求出相应的香农码和费诺码； （4）求该码的编码效率。 解： （1）H U 1.984（bit/符号） （2）编码效率 66.15﹪ （3）香农编码 信源符号 信源符号概率 积累概率 码长 码字 0 1 0 2 10 3 110 4 1110 5 11110 6 111110 7 1111110 7 1111111 平均码长 1.984 编码效率 100﹪ 费诺编码 信源符号 信源符号概率 码长 码字 1 0 2 10 3 110 4 1110 5 11110 6 111110 7 1111110 7 1111111 平均码长 1.984 编码效率 100﹪ 三、有四个符号a，b，c，d对应概率分别为p a ，p b ，p c ，p d ，对序列S abda做算术编码。 解： 设起始状态为空序列，则A 1，C 0，递推得 C a,b,d,a 0.010111 A a,b,d,a 0.0000001 因此编码的码字为010111 四、某线性二进制码的生成矩阵为 G ，求： （1）用系统码I︱P的形式表示G； （2）计算该码的校验矩阵H； （3）列出该码的伴随式表； （4）计算该码的最小距离。 （1） G （2）H （3）S是4维矢量，可以取到0000~1111等16种可能值 （4）最小码距为4