《信息论》期末考试试题（A卷）标准答案.pdfVIP

北京邮电大学 2010——2011 学年第 一 学期 《信息论》期末考试试题（A卷）标准答案 姓名 班级 学号 分数 注：所有答案均写在答题纸上，试卷和答题纸一起上交。 一、判断题（正确打 √，错误打×）（共 10 分，每小题 1 分） （1） 输出符号等概率的信源的剩余度为零。 (×) （2） 总存在一种有损信源编码，使得当码率 R ≥ R（D）时，平均失真 小于等于 D ； (√) （3） 平均互信息 I(X;Y)不大于条件平均互信息 I(X;Y|Z)； (×) （4） 差熵为零的连续信源的平均不确定性为零； (×) （5） 级联信道的容量不大于构成该级联信道的任意一个信道的容量； (√) （6） 对于有限状态马氏链，无论初始状态概率分布如何，最终总会达到 状态的平稳分布； (×) （7） 两独立随机变量和的熵功率不小于这两个随机变量熵功率的和； (√) （8） 在信息处理过程中，处理的次数越多得到的信息量也就越大； (×) （9） 离散信源经过一一对应的变换后熵不变； (√) （10） 随着信源序列长度的增加，非典型序列的出现的概率趋近于零。 (√) 二、 填空题（共 20 分，每空 2 分） 1.   设X 的概率密度函数为：p (x ) e x ,x 0,0 ，则差熵h( X ) =log(e/λ) ，  熵功率为    e/(2πλ2)   ；  (x m )2 1  2 2 2． 设X 概率密度函数为：p x e 2 则h(2X 3) = (1/2)log(8πeσ) ；  ( ) , 2 2 q(x) 若 Y 为任意满足E (Y ) m,Var (Y )  的连续随机变量，且 为其概率密度函数，  2 则 q(x)log p(x)dx =   (1/2)log(2πeσ)    ；    1 3 ．设一齐次马氏链X ,X ,... ，各X 取值于符号集 {a ,a ,a }，状态转移概率矩阵为：  1 2 i 1 2 3 1/ 2 1/ 4 1/ 4     2 / 3 0 1/ 3 ，则状态平稳分布为π = 2/5  ，π = 3/10  ；π = 3/10  ，该马氏链   1 2 3  0 2 / 3 1/ 3 的符号熵为  (2/5)H(1/2,1/4,1/4)+