信息论习题(含答案).docx

信息理论根底习题集【考前必看】 一、推断： 1、 必定大事和不行能大事的自信息量都是 0 。 2、 自信息量是 p(xi ) 的单调递减函数。 3、 单符号离散信源的自信息和信源熵都具有非负性。 4、 单符号离散信源的自信息和信源熵都是一个确定值。 5、单符号离散信源的联合自信息量和条件自信息量都是非负的和单调递减的 6、自信息量、条件自信息量和联合自信息量之间有如下关系： I (x i y ) ? I (x j i ) ? I ( y j / x ) ? I ( y i j ) ? I (x i / y ) j 7、自信息量、条件自信息量和互信息量之间有如下关系： I (x ;