信息论编码试卷2x.docx

信息论编码试卷2 一、填空题（共15分，每空1分）1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。 2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。 3、三进制信源的最小熵为。，最大熵为log23bit/符号。 4、无失真信源编码的平均码长最小理论极限制为信源熵（或H（S）/logr=Hr（S））。 5、当R=C或（信道剩1余度为0）时，信源与信道达到匹配。 6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。 7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。 8、若连续信源输出信号的平均功率为。2,则输出信号幅度的概率密度是高斯分布或正态分布或f（%）=；e—202时，信源具有最大熵，其值为值；log2兀eo2。 9、在下面空格中选择填入数学符号“=,>,<,〉”或“〈”（1）当X和Y相互独立时，H（XY）=H（X）+H（X/Y）=H（Y）+H（X）。 （2）H（X）=四色2>h（X）=H（气X2X3）22—33（3）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H（X/Y）>0,H（Y/X）=0,I（X;Y）<H（X）。 二、（6分）若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。 —,2<%<640,其它「?相对熵h（x）=-j6f（%）logf（x'）dx2=2bit/自由度该信源的绝对熵为无穷大。 三、（16分）已知信源 -S- ss s sss = 12 3 456 P _0.20.2 0.2 0.20.10.1_ （1）用霍夫曼编码法编成二进制变长码；（6分）（2）计算平均码长L;（4分）（3）计算编码信息率R;（2分）（4）计算编码后信息传输率R;（2分）（5）计算编码效率门。（2分）（1）编码结果为:S00s'01S2100S101S4110S61110.420.632.6码元符号(3)RLlogr=2.63itg号HSLHSLlogr箜0.973^1^—其中，HSH0.2,0.2,0.2,0.2,0.1,(2.14力1匚02.6-,码兀??付号HS-^―0.973L评分：其他正确的编码方案：1,要求为即时码2,平均码长最短四、（10分）某信源输出A、B、C、D、E五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为0.5s。计算:（1）信息传输速率Rto（5分）⑵将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为n0106W/Hz。试计算正确传输这些数据最少需要的发送功率P。（5分）解：⑴.HXHX,，Y^loglog81log2223.「—log2—log222log22bit4Lg12bit0.5s4106bps88224X106=2X106logI 编码结果为: S00s'01S2100S101S4110S6111 0.420.632.6码元符号 (3)RLlogr=2.63itg号 HSLHSLlogr 箜0.973^1^—其中，HSH0.2,0.2,0.2,0.2,0.1,(2.14力1匚02.6-,码兀??付号HS-^―0.973L 评分：其他正确的编码方案：1,要求为即时码2,平均码长最短四、（10分）某信源输出A、B、C、D、E五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为0.5s。计算: （1）信息传输速率Rto（5分） ⑵将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率 谱密度为n0 106W/Hz。试计算正确传输这些数据最少需要的发送功率P。（5分） 解：⑴.HX HX,，Y log81log2223.「—log2—log222 log22bit 2bit0.5s 4106bps 4X106=2X106logI1+ 10-6X2X106 P（2）1+—=222P=6W 五、（16分）一个一阶马尔可夫信源，转移概率为P（SIS）=2,P（SIS）=!,P（SIS）=1P（SIS）=0。1132131222（1）画出状态转移图。（4分）（2）计算稳态概率。（4分）（3）计算马尔可夫信源的极限熵。（4分） （4）计算稳态下H,H2及其对应的剩余度。（4分） 解：⑴ C3S11S H=-*2P（S.）P（SISlogP（SIS.）i=1j=1TOC\o"1-5"\h\z22311 =——X—xlog———X—xlog—33433 =1x0.578+1x1.599 24 =0.681。，"符号 =0.472nati符号 =0.205