信息与编码理论 第2版 习题及答案 （第2章信源与信源熵）.pdf

习题2答案

2-1假设有一副扑克牌完全打乱顺序（52张），请问：

(1)任意一种特定排列所带来的信息量是多少？

(2)假如从中抽出13张牌，所给出的点数都不同，这种情况下能够获得多少信息量？

【解】

(1)52张牌共有52!种排列方式，假设每种排列方式出现是等概率的，则信息量为：

Ix=−log1/52!=225.581bit

()()

i2

(2)52张牌共有4种花色、13种点数，抽取13张点数不同的牌的概率为：

413

p(x)=

iC13

52

此时能够获得的信息量为

413

I(x)=−logp(x)=−log=13.208bit

iiC13

52

2-2设有一个4行8列的棋型方格，有一棋子A分别以等概率落在任一方格内，求A落入

任一小格的自信息量是多少。

【解】

1

设棋子A落入任一方格的概率为px=，自信息量为

()

32

Ix=−logpx=−log1/32=5bit

()2()2()

2-3设有一非均匀骰子，若其任一面出现的概率与该面上的点数成正比，则

(1)分别求各点出现时所给出的信息量；

(2)求掷一次骰子平均所获得的信息量。

【解】

1

(1)出现1点的概率为：p(X=1=，给出的信息量为

)

21

I(X=1=−logpX=1=−log1/21=4.39bit

)2()2()

2

出现2点的概率为：p(X2)，给出的信息量为

21

I(X=2)=−logp(X=2=−log2/21=3.39bit

2)2(