第一章-第二章课后作业答案.docxVIP

信息论基础（于秀兰陈前斌王永）课后作业答案 为随机变量概率P（X = X）是X的函数，所以P（X）仍为关于X的随机变量 文中如无特别说明，那么以此类推。J大丁入灯肛机义里, 第一章 1.6 [P(xy)] =《SR 舞父=四6 0.04][尸仙1。2)尸仙2。2)」b.120.48J [P(y)]=仍应)P(Z?2)] = [0,48 0.52] [P(x)y)l = [「(%)P(a2161)1 __ r 0,750,25 ]]P(Qi也)尸(Q21b2)J - ho77 0.923J 第二章] 1(B) = TogP(B) = -log- = 3(bit) o注：此处P(B)表示事件B的概率。 设信源为X, H(X) = E[-logP(X)] = _/og；_ 2 f 04_L = 1.75(bit/symbol) 1 75…一砌％ 2.2 P(3和5同时出现)=1/181 I = Tog记《4.17(bit) P(两个2同时出现)=i/361 =Iog36 x 5.17(bit) 向上点数和为5时(14, 23, 41, 32)有4种,概率为1/9,1 I = - log- x 3.17(bit)9 (4)设两个点数和为X,那么 X 2 3 4 5 6 7 8 9 10 11 12 P(X) 1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36 H(X) = E[-logP(X)] x 327(bit/symbol) (5)5 511 P(两个点数至少有一个1) = 1- 77 = T7o o 3o 11I = - log— x 1.71 (bit) DO(6) 相同点数有6种，概率分别为1/36；不同点数出现有15种，概率分别为1/18； H = 6 — ■ log36 + 15 — ■ logl8 x 4.34(bit/symbol)3618 2.9(1) 33H(X,Y) = E[—logP(X, Y)] = — W W p(卬x 23(bit/sequence) 1=1 j=l H(Y) = E[—logP(Y)] x 1.59(bit/symbol) H(X|Y) = H(X, Y) — H(Y) = 0.71(bit/symbol) 2.12 (1)22 11 H(X) = E[-logP(X)] = --log---log- 0.92(bit/symbol)JJ JJ Y的分布律为：1/2,1/34/6；H(Y) = E[—logP(Y)] x 1.46(bit/symbol) H(Y[%) = E[-logP(Y|X)|X = %] = - {P(4 1。1乂。(瓦也) 3311=--log 彳一彳 log 7 y 0.81 (b it / symbol) 44 44H(Y|a2) = E[-logP(Y|X)|X = a2] = - P| a2)logP (bt \ a2) 1111=-ylog---log-= 1 (bit/symbol) 0.87 (bit / symbol) 0.87 (bit / symbol) 0.87 (bit / symbol)Z21P(af)H(Y|af)=--0.81+--l^ 0.87 (bit / symbol) D32.13 H(X) = H(0.3,0.7) x Q.S3(bit/symbol) 二次扩展信源的数学模型为随机矢量X2 = (X/2),其中X]、X2和X同分布，且 相互独立，那么H(X2) = 2H(X) = 1.7 6(bit / sequence) 平均符号焙H2(X2) = H(X) x 0.88(bit/symbol) 二次扩展信源的数学模型为随机矢量X2 = (X/2),其中为、X2和X同分布，且 Xi、X2相关， H(X2I^1) = E[-10gP(X2l^i)] = 一 W Wp(%i，％2)logp(%2%)%1 X2 122 21371=~^lOg3~^lOg3~40lOg4~40l°940?84(bit/symbol) H(X2) = H(XnX2) = H(X2|XJ + H(XJ = 0.84 + 0.88 = 1.72(bit/sequence)H2 (X2) = H(X2)/2 = 0.86(bit / symbol) 2.14 令无记忆信源为X, /I 3\13H(X) = H [ — , — ) = 7 x 2 + — x 0.415 工 0.81(^bit/symbol) \4 4/44 r/i\m/3\100-m]1(X1。。)= -logP(X100 =…%ioo) = Tog ㈤ ㈤ =2m + (2 — 20g3)(100 — m) = 20