信息论知识复习总结.docVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
信息论知识复习总结

单选(每题2分,共20分) 1.下面属于最佳变长编码的是(B)下面不属于最佳变长编码的是(D) B.香农编码和费诺编码 D.算术编码和游程编码 2.加密编码的目的是(C) 信源编码的目的是 提高通信有效性 。 C.提高通信系统的安全性 信道编码的目的是 提高信息传输的可靠性 。 3.表中符合等长编码的是(A) 表中符合即时码的是 A、D 。 4.下列各量可能为负值的是(B)下列各量不一定为正值的是(A) B.互信息量 A.互信息量 5.一个m位的二进制数,该数的每一位可从等概率出现的二进制码元(0,1)中任取一个,这个m位的二进制数的自信息量为(m bit) 6.联合熵H(XY)与熵H(X)及条件熵H(X/Y)之间存在关系错误的是(D) D.H(XY)=H(X)+H(X/Y) 7.已知发送26个英文字母(包括空格),其最大信源熵(发送概率相等)为H0 = log27 = 4.76比特/符号;在字母发送概率不等时,其信源熵为H1 = 4.03比特/符号;考虑字母之间相关性时,其信源熵为H2 = 3.32比特/符号;以此类推,极限熵 H∞ =1.4比特/符号。问若用一般传送方式,冗余度γ为(0.71) H∞ =1.5 冗余度为(0.68) 8.某对称离散信道的信道矩阵为 ,信道容量为(C) C. 某信道传递矩阵为 ,其信道容量为(D) D. 10.下列各图所示信道是对称信道的是(C)下列各图所示信道是删除信道的是(A) C . A. 当一个信道输入符号和输出符号的个数相同,且行对称、列对称的信道是 强对称 信道。 某信道为多输入、单输出,该信道的信道容量为 C=max I(X;Y)=max H(Y) 。 常用的最佳变长编码的是香农编码、费诺编码和哈夫曼编码。 唯一可译码存在的充分和必要条件:各码字的长度Ki应符合克劳夫特不等式 。 联合熵H(XY)与熵H(X)及条件熵H(X/Y)之间存在关系是 H(XY)=H(X)+H(Y/X) 。 16.设信源符号序列为X={0,1},接收端收到符号序列为Y={0,1,2},规定失真函数为 d(0,0)=d(1,1)=0 d(0,1)=d(1,0)=1 d(0,2)=d(1,2)=0.5 失真矩阵d为 。 17.下列各图所示信道是有噪无损信道的是( B ) 二.简答题(共30分) 1.离散信源的分类。 2.无失真信源编码的分类。 2.画出通信系统的模型。 信源:发送消息的源。主要分为离散信源和模拟信源。 信宿:信息归宿之意,亦即收信者或用户,是信息传送的终点或目的地。 信道:传输信息的物理媒介 信源编码和译码 信源编码是把信源发出的消息变换成由二进制码元(或多进制码元)组成的代码组,这种代码组就是基带信号。同时通过信源编码可以压缩信源的冗余度,以提高通信系统传输消息的效率。 信源编码器分为两类:一类是无失真信源编码,适用于离散信源或数字信号;另一类是限失真信源编码,用于连续信源或模拟信号,如语音、图像等信号的数字处理。 信源编码器的主要指标:编码效率,即理论上能达到的码率与实际达到的码率之比。效率越高,编译码器的代价也将越大。 信源译码:是把信道译码器输出的代码组变换成信宿所需要的消息形式,它的作用相当于信源编码器的逆过程。 信道编码和译码 主要作用是提高信息传送的可靠性。 信道编码器的作用:在信源编码器输出的代码组上有目的地增加一些监督码元,使之具有检错或纠错的能力。 信道编码的主要方法:增大码率或频带,即增大所需的信道容量。这恰与信源编码相反。 信道译码器的作用:具有检错或纠错的功能,它能将落在其检错或纠错范围内的错传码元检出或纠正,以提高传输消息的可靠性。 加密编码 隐蔽消息中的信息内容,使它在传输过程中不被窃听.提高通信系统的安全性。 3.已知转移概率为,试画出状态转移图。 计算题 (20分)具有符号集的二元信源,信源发生概率为:。Z信道如图 所示,接收符号集,转移概率为:。发出符号与接收符号的失真:。 计算平均失真; 率失真函数R(D)的最大值是什么?当q为什么值时可达到该最大值?此时平均失真是多大? 率失真函数R(D)的最小值是什么?当q为什么值时可达到该最小值?此时平均失真是多大? 画出R(D)-D曲线。 解: 已知信源符号概率; 转移概率矩阵; 失真矩阵; 联合概率矩阵; 。 maxR(D)=R(Dmin)=H(X)=-plogp-(1-p)log(1-

文档评论(0)

wyjy + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档