信息论 傅祖芸课后题解答.pptVIP

习题讲解 2.4 解： x ：女孩是大学生 y ：女孩身高 1.6m 以上 P(x)=0.25 P(y)=0.5 P(y/x)=0.75 第二章习题 2 2 ( ) ( ) ( / ) 0.25 0.75 ( / ) 0.375 ( ) ( ) 0.5 1 ( / ) log ( / ) log 1.415( ) 0.375 1.415 p xy p x p y x p x y p y p y I x y p x y bit bit ? ? ? ? ? ? ? ? ? ? 获得的信息量是 第二章习题 2.6 1 3 ( ) log log 0.375 1.396 8 I a ? ? ? ? ? 2 1 ( ) log 2 4 I a ? ? ? 3 1 ( ) log 2 4 I a ? ? ? 2 1 ( ) log 3 8 I a ? ? ? (1) ? ? 1 2 3 4 14 ( ) 13 ( ) 12 ( ) 6 ( ) 87.544 I I a I a I a I a bit ? ? ? ? ? 消息 (2) 87.544 1.945 45 ? 第二章习题 1 2 3 4 5 6 2 6 2 1 2 2 2 2 2 , ( ) 0.2 0.19 0.18 0.17 0.16 0.17 ( ) log 6 ( ) ( ) log ( ) [ 0.2 log 0.2 0.19 log 0.19 0.18log 0.18 2(0.17 log 0.17) 0.16 log 0.16 2.66( / i i i X x x x x x x P X H X H X p x p x bit symb ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 设信源 求这信 源的熵，并解释为什么 不满足信源熵的极值性。 解： 2 6 1 ) log 6 2.58 ( ) 0.2 0.19 0.18 0.17 0.16 0.17 1.07 1 i i ol p x ? ? ? ? ? ? ? ? ? ? ? ? ? 概率空间不满足归一化 不满足最大离散熵定理 2.9 第二章习题 2.13 (1) 每个象素亮度所含的信息量为： ( ) log10 3.32 H X ? ? 每帧图像所含的信息量为： 5 6 ( ) ( ) 5*10 log10 1.66*10 N H X NH X ? ? ? 每秒钟的信息率为： 7 1 30 ( ) 4.98*10 N R H X ? ? 第二章习题 2.13 (2) 每个象素色度所含的信息量为： ( ) log30 4.91 H Y ? ? 亮度和色度彼此独立 ( ) ( ) ( ) log10 log30 8.23 ( ) log300 2.5 ( ) log10 H XY H X H Y H XY H X ? ? ? ? ? ? ? 第二章习题 2.18 (1) 是平稳的 (2) 2 ( ) 2 ( ) 2 0.97 1.94 H X H X ? ? ? ? ( ) (0.4) (0.4log0.4 0.6log0.6) 0.97 H X H ? ? ? ? ? 3 1 2 3 ( / ) ( ) ( ) 0.97 H X X X H X H X ? ? ? lim ( ) ( ) 0.97 N N H X H X ?? ? ? (3) 2 ( ) 2 ( ) 4 0.97 3.88 H X H X ? ? ? ? 0000,0001,0010,0011,0100,0101,0110,0111 1000,1001,1010,1011,1100,1101,1110,1111 第二章习题 2.22 (1) (0) (0) (1) (2) 2 2 (1) (1) (0) (2) 2 2 (2) (2) (1) (0) 2 2 p p P pP P P p p P pP P P p p P pP P P ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ( ) ( ) i i Q E P a ? 1 (0) (1) (2) 3 P P P ? ? ? 解得： 第二章习题 2.22 (2) 3 2 1 ( ) ( / ) (0) ( / 0) (1) ( /1) (2) ( / 2) 1 3* ( , , ) ( log 2* log ) 3 2 2 2 2 log log 2 i i i H H Q E H X E P H X P H X P H X p p p p H p p p p p p p ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （ 3 ）： ( ) log3 1.585 H X ?