编码7标准卷.docVIP

三明学院《信息论与编码》试卷(7) （考试时间：120分钟） 使用班级： 学生数： 任课教师： 龚俊锋 考试类型 闭卷 题 序 一 二 三 四 五 六 七 总分 得 分 阅卷人 一 填空题 1 离散信道的输入、输出分别是X和Y，则条件熵H（X|Y）为信道的___信道疑义度__， H（Y|X）为信道的__噪声熵___. 2 当对信号进行多级处理时，每处理一次，就有可能损失一部分信息，也就是说数据处理会把信号变成更有用的形式，但是绝不会创造出新的信息。这就是_____信息不增原理___。 3 设二进制对称信道的信源输出概率空间为 二进制对称信道特性固定后，输入呈______等概率分布p=1/2_____时，平均而言在接收端可获得最大信息量, 当二进制对称信道特性_______q=1/2_____时，信道输出端获得信息量最小，即等于0。说明信源的全部信息都损失在信道中了。这是一种最差的信道。 4 香农信道公式为___C=Blog(1+S/N)__，从香农公式中可以得出结论，信道有效带宽越宽,信道容量__越大___，信噪比越__大__,信道容量越大，在保持信道容量不变的情况下，可以用__增加信号带宽_____，____增大发射功率___的办法进行通信。 5 同时掷两个正常的骰子，也就是各面呈现的概率都是1/6，则“3和5同时出现“这事件的自信息量为___4.17bit___，“ 两个1同时出现”这事件的自信息量为__5.17bit____, 两个点数的各种组合（无序对）的熵和平均信息量为____4.337bit__, 两个点数之和的熵为____3.274bit__, 两个点数中至少有一个是1的自信息量为____1.7105bit__. 6信源X和信宿Y的信息熵分别是H(X)和H(Y)，则H(X,Y)是他们的____联合熵___,H(X|Y)是__噪声熵__,I(X,Y)是_____互信息量___,其中I(X,Y)可以用H(X|Y)与H(X)或H(Y)表示成____ I(X,Y)=H(X)-H(X,Y)______。 7 有一个可旋转的圆盘，盘面上被均匀地分成38份，用1,2,…,38数字标示，期中有2份涂绿色，18份涂红色，18份涂黑色，圆盘停转后，盘面上指针指向某一数字和颜色。若仅对颜色感兴趣则，平均不确定度为___1.24bit__，若对颜色和数字都感兴趣，则不确定度为__5.25bit__。如果颜色已知，则条件熵为__4.01bit__. 二 名词解释 1译码延时/译码同步：接收到一个不等长码序列后，有时不能马上断定码字是否真正结束，因而不能立即译出该码，要等到后面的符号收到后才能正确译出。 2汉明距离：两个等长字符串之间的汉明距离是两个字符串对应位置的不同字符的个数。换句话说，它就是将一个字符串变换成另外一个字符串所需要替换的字符个数 k 位的信息码组变换成 n位的码字 (nk)。由 2k 个信息码组所编成的 2k个码字集合，称为线性分组码。 率失真函数：信息率失真函数是在给定信源且又具体定义了失真函数的条件下，信源传输给收信者的信息率的下限值。已知一（3，1，3）卷积码编码器，输入输出关系为：试给出其编码原理框图。 2 .设有一离散信道，其信道矩阵为，求：（1）最佳概率分布？（2）当，时，求平均互信息 信道疑义度 答：1）是准对称信道，因此其最佳输入概率分布为。 2）当，时，有则 3）此时可用最大似然译码准则，译码规则为且有 3 设某信源的信源空间为: 试用U:{0,1}作码符号集,采取香农编码方法进行编码,并计算其平均码长. 解: 码长 编码 信符 信符概率 1 0 s1 1/2 1/2 1/2 1/2 1/2 1/2 2 10 s2 1/4 1/4 1/4 1/4 1/4 1/2 3 110 s3 1/8 1/8 1/8 1/8 1/4 4 1110 s4 1/16 1/16 1/16 1/8 5 11110 s5 1/32 1/32 1/16 6 111110 s6 1/64 1/32 6 111111 s7 1/64 4设加性高斯白噪声信道中,信道带宽3kHz,又设{(信号功率+噪声功率)/噪声功率}=10dB.试计算改信道的最大信息传输速率Ct. 解: 5设信源 (1) 求信源熵H(X)； (2) 编二进制香农码和二进制费诺码； (3) 计算二进制香农码和二进制费诺码的平均码长和编码效率； (4) 编三进制费诺码； (5) 计算三进制费诺码的平均码长和编码效率； 解： (1) (2) 二进制香农码 p(xi) pa(xi) ki 码字 x1 0.5 0 1 0 x2