《信息论与信息编码》期末复习试题2套及答案.docxVIP

信息论与信息编码（2004.2005）考试答案 填空（共20分） 香农关于信息的定义是 O 信息技术的基本内容是 、 、 TOC \o 1-5 \h \z 、 O 已知英语的每个字母所携带的最大有用炳为Ibit,且英语每个字母的最大 炳Hmax=4.0651bit,则英语 信源的冗余度为 O 当Xi和少相互独立时，互信息量I （xi； yj）为 。 条件嫡（X/Y）又称 ， 它可看作 已知信源包含的消息用一种延长码组进行编码，它们的对应关系：心 0, X2 01, X3 011, X4 —a Olllo设收到的码元序列为010101110011100到0101110,它能唯 一地被译成消息 二、简述题（三选二、20分） 1、试述离散信源的分类 2、信源编码的目的是什么 3、常用信源编码有哪些 三、 有两个二元随机变量X和Y的联合概率如下表，并定义另一随机变量 Z=XY （20 分） yo yi 0 i X0 0 1/8 3/8 XI 1 3/8 1/8 求：1、I (xo) , I (yi) 2、 H(X), H(Y), H(Z) 3、 H(XZ)，H(XYZ) 4、 H(X/Y), H(X/Z), H(y/XZ), H(Z/XK), 5、 /(X;Z), z(x；y/z) 四、两个试验X 和I, X = [x^x2,x3}, Y = {y^y2,y3} 联合概率