信息论习提答案.docVIP

1、 虹是香农信息论最基本最重要的概念。 2、 单符号离散信源一般用随机变最描述，而影符号离散信源一般用随机欠最描述。 3、 两个相互独立的随机变量的联合自信息量等于两个自信息量之和。 4、 离散平稳无记忆信源X的N次扩展信源的嫡等于离散信源X的嫡的N倍。 5、 对于n元m阶马尔可夫信源，其状态空间共有二个不同的状态。 6、 若一离散无记忆信源的信源爛H （X）等于4.2,对信源进行等长的无失真二进制编码, 则编码长度至少为5 。 7、 同时掷两个正常的骰了，各面呈现的概率都为1/6,则“3和6同时出现”这件事的自 信息量是10亞18或（1+2 lo亞3）。 8、 一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作 离散无记忆信源，则其信源爛为10§2 52 。 9、 具有一一对应关系的无噪信道的信道容量C= log2n o 1（）、 信道编码定理是一个理想编码的存在性定理，即:信道无失真传递信息的条件是值 息率小于信道容址o 11、信源的消息通过信道传输后的误差或失真越人，信宿收到消息后对信源存在的不确定 性就越大，获得的信息量就越小 12、 平均失真度的下限取0的条件是失真矩阵的每一行至少冇一个零元素。 13、 率失真隊I数对允许的平均失真度是一单调递减和连续的。 14、 对于离散无记忆信源的率失真函数的最人值是」 15、 信源编码的目的是：提高通信的有效性。 16、 对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码吋，为使平均码长 最短，应增加2个概率为0的消息。 17、 对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是香农编码。 18、 游程序列的爛等于 原二元序列的爛。 19^ n位重复码的编码效率是1/n o 2（）、 若纠错码的最小距离为（U，则可以纠正任意小于等于匸L 2」个差错。 1、 单符号离散信源的自信息和信源爛都具有非负性。独 2、 自信息量、条件自信息虽和联合自信息虽Z间冇如下关系： /（兀儿）=/（￡）+/（儿 /兀）= /（）「）+ /（兀 / 儿）对 3、 自信息量、条件自信息量和互信息#:之间有如卜关系： I（兀；儿）=/（兀）一 I（门/儿）=I（儿）-/（儿/兀）业 4、 当随即变量X和Y相互独立时，条件炳等于信源爛凶； 5、 若对一离散信源（爛为H （X））进行二进制无失真编码，设定长码了长度为K,变长码 子平均长度为斤，-般斤〉K。蛰 6、 信道容罐C是I （X； Y）关于p （冶）的条件极大值。凶 7、 离散无噪信道的信道容量等于log2n,其中n是信源X的消息个数。蚩 8、 率失真函数没有最人值。鐘 9、 率失真函数的最小值是0。业 1（）、 信源编码通常是通过压缩信源的冗余度来实现的。独 在编m （m2）进制的哈夫曼码时，要考虑是否需要增加概率为0的码字，以使平均码长最 短。型 11、 在游程编码过程中，“0”游程和“1”游程应分别编码，因此，它们的码字不能重 12、 汉明码是一种线性分组码。过 13、 循环码也是一种线性分组码。业 14、 卷积码是一种特殊的线性分组码。M 1、5，0j是两个码符号｛0,1｝组成的符号序列 ^= 00011001011, pj= 10101110001 ^ a b Bj 之间的汉明距离 N 解：D(ai，工檢弧訂 k = 1 2?、已知随即变量X和Y的联合分布如下所示： 0 1 0 1/8 3/8 1 3/8 1/8 试计算：H (X)、H (Y)、H (XY)、H (X/Y)、H (Y/X)、I (X； Y) lbit lbit 0.54bit 081 bit O.81bit 0.19bit 3、 一个消息由符号 0, 1, 2, 3 组成,已知 P(0)=3/8,P(l)=l/4,,P⑵=1/4, ,P(3)=l/8,试求由 60 个符号构成的消息所含有的信息量和平均信息量。无答案 4、 在一个袋子里放有5个黑球、1()个白球，以摸一个球为一次实验，摸出的球不再放回去。 求： 一次实验包含的不确定度。 第一次实验X摸出的是黑球，第二次实验Y给出的不确定度； 第一次实验X摸出的是口球，第二次实验Y给出的不确定度； 0.92bit 0.86bit 0.94bit 5、 两个实验 X 和 Y, X=｛xl,x2,x3｝,Y二｛yl,y2,y3｝,联合概率 p(xiyj)=Plj 已经给出。 (pi i=7/24,p 12= 1 /24,p 13=O,p21 = 1 /24,p22= l/4,p23= 1/24,p31 =O,p32= 1/24,p3 尸 7/24) 如果冇人告诉你X和Y的实验结果，你得到的平均信息量是多少？ 如果有人告诉你Y的实验结果，你得到的平均信息量是多少？ 在已知Y实验结果的情况下，告诉你