信息论与编码习题发送.docVIP

1、一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为 __log2 52________________ 。 2、信息率失真理论是量化、数模转换、频带压缩和 ___数据压缩_____________ 的理论基础。 3、信源的消息通过信道传输后的 误差 越大，信宿收到消息后对信源存在的不确定性就越大 ，获得的信息量就越小。 4、高斯加性噪声信道中，信道带宽3kHz，信噪比为7，则该信道的最大信息传输速率Ct= 9kHz 。 5、BSC信道即： 无记忆二进制对称信道 。 1、给定xi条件下随机事件yj所包含的不确定度和条件自信息量p(yj /xi).( D ) A．数量上不等，单位不同 B．数量上不等，单位相同 C．数量上相等，单位不同 D．数量上相等，单位相同 2、条件熵和无条件熵的关系是：( C ) A．H(Y/X)＜H(Y) B．H(Y/X)＞H(Y) C．H(Y/X)≤H(Y) D．H(Y/X)≥H(Y) 3、根据树图法构成规则， ( D ) A．在树根上安排码字 B．在树枝上安排码字 C．在中间节点上安排码字 D．在终端节点上安排码字 4、下列说法正确的是： ( C ) A．奇异码是唯一可译码 B．非奇异码是唯一可译码 C．非奇异码不一定是唯一可译码 D．非奇异码不是唯一可译码 5、下面哪一项不属于熵的性质：( B ) A．非负性 B．完备性 C．对称性 D．确定性 1、平均互信息量I（X；Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。 （ 对 ） 2、m阶马尔可夫信源和消息长度为m的有记忆信源，其所含符号的依赖关系相同。 （ 错 ） 3、利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限熵。 （ 对 ） 4、N维统计独立均匀分布连续信源的熵是N维区域体积的对数。 （ 对 ） 5、一维高斯分布的连续信源，其信源熵只与其均值和方差有关。 （ 错 ）6、连续信源和离散信源的熵都具有非负性。 （ 错 ） 7、连续信源和离散信源都具有可加性。 （ 对 ） 8、连续信源和离散信源的平均互信息都具有非负性。 （ 对 ） 9、定长编码的效率一般小于不定长编码的效率。 （ 对 ） 10、若对一离散信源（熵为H（X））进行二进制无失真编码，设定长码子长度为K，变长码子平均长度为，一般K。 （ 错 ）1、证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 2、请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。 1、设输入符号与输出符号为X＝Y∈{0,1,2,3}，且输入符号等概率分布。设失真函数为汉明失真。求Dmax和Dmin及R(Dmax)和R(Dmin) 2、请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。 高斯分布连续信源X的相对熵为 1、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的 极小值 。 2、平方误差失真函数d（xi，yj）= （yi-yj）2平方 。3、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是 香农编码 。 4、信源编码的目的是： 提高通信的有效性 __。 5、若把掷骰子