编码9标准卷.docVIP

三明学院《信息论与编码》试卷(9) （考试时间：120分钟） 使用班级： 学生数： 任课教师： 龚俊锋 考试类型 闭卷 题 序 一 二 三 四 五 六 七 总分 得 分 阅卷人 一 填空题 1有一离散信源，其概率空间为 X 0 1 2 3 4 P 1/5 1/5 2/5 1/10 1/10 则信源熵为 二进制对称信道特性固定后，输入呈______等概率分布p=1/2_____时，平均而言在接收端可获得最大信息量, 当二进制对称信道特性_______q=1/2_____时，信道输出端获得信息量最小，即等于0。说明信源的全部信息都损失在信道中了。这是一种最差的信道。 5信源X和信宿Y的信息熵分别是H(X)和H(Y)，则H(X,Y)是他们的____联合熵___,H(X|Y)是__噪声熵__,I(X,Y)是_____互信息量___,其中I(X,Y)可以用H(X|Y)与H(X)或H(Y)表示成____ I(X,Y)=H(X)-H(X,Y)______。 二 名词解释 1译码延时/译码同步：接收到一个不等长码序列后，有时不能马上断定码字是否真正结束，因而不能立即译出该码，要等到后面的符号收到后才能正确译出。 2汉明距离：两个等长字符串之间的汉明距离是两个字符串对应位置的不同字符的个数。换句话说，它就是将一个字符串变换成另外一个字符串所需要替换的字符个数 k 位的信息码组变换成 n位的码字 (nk)。由 2k 个信息码组所编成的 2k个码字集合，称为线性分组码。 失真函数：信息率失真函数是在给定信源且又具体定义了失真函数的条件下，信源传输给收信者的信息率的下限值。…,3与信息位ui,i=0,…,3的关系是 v0=u1+u2+u3 v1=u0+u1+u2 v2=u0+u1+u3 v3=u0+u2+u3 求：该码的生成矩阵和校验矩阵，该码的最小距离，并画出该编码器硬件逻辑连接图。 解 生成矩阵G= 1 0 0 0 0 1 1 1 0 1 0 0 1 1 1 0 0 0 1 0 1 1 0 1 0 0 0 1 1 0 1 1 H= 最小距离为4 逻辑连接图 U 3 U2 U1 U0 V3 V2 V1 V0 2 设某信源的信源空间为: 试用U:{0,1}作码符号集,采取香农编码方法进行编码,并计算其平均码长. 解: 码长 编码 信符 信符概率 1 0 s1 1/2 1/2 1/2 1/2 1/2 1/2 2 10 s2 1/4 1/4 1/4 1/4 1/4 1/2 3 110 s3 1/8 1/8 1/8 1/8 1/4 4 1110 s4 1/16 1/16 1/16 1/8 5 11110 s5 1/32 1/32 1/16 6 111110 s6 1/64 1/32 6 111111 s7 1/64 3 设离散无记忆信道的输入符号集X：{0，1}，输出符号集Y：{0，1，2}，信道矩阵为： 若某信源输出两个等概消息s1和s2，现在用信道输入符号集中的符号对s1和s2进行信道编码，以w1=00代表s1，w2=11代表s2。试写出能使平均错误译码概率Pe=Pemin的译码规则，并计算Pemin。 解： 4设信源 (1) 求信源熵H(X)； (2) 编二进制香农码和二进制费诺码； (3) 计算二进制香农码和二进制费诺码的平均码长和编码效率； (4) 编三进制费诺码； (5) 计算三进制费诺码的平均码长和编码效率； 解： (1) (2) 二进制香农码 p(xi) pa(xi) ki 码字 x1 0.5 0 1 0 x2 0.25 0.5 2 10 x3 0.125 0.75 3 110 x4 0.0625 0.875 4 1110 x5 0.03