- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
信息论知识复习总结
单选(每题2分,共20分)
1.下面属于最佳变长编码的是(B)下面不属于最佳变长编码的是(D)
B.香农编码和费诺编码 D.算术编码和游程编码
2.加密编码的目的是(C) 信源编码的目的是 提高通信有效性 。
C.提高通信系统的安全性 信道编码的目的是 提高信息传输的可靠性 。
3.表中符合等长编码的是(A) 表中符合即时码的是 A、D 。
4.下列各量可能为负值的是(B)下列各量不一定为正值的是(A)
B.互信息量 A.互信息量
5.一个m位的二进制数,该数的每一位可从等概率出现的二进制码元(0,1)中任取一个,这个m位的二进制数的自信息量为(m bit)
6.联合熵H(XY)与熵H(X)及条件熵H(X/Y)之间存在关系错误的是(D)
D.H(XY)=H(X)+H(X/Y)
7.已知发送26个英文字母(包括空格),其最大信源熵(发送概率相等)为H0 = log27 = 4.76比特/符号;在字母发送概率不等时,其信源熵为H1 = 4.03比特/符号;考虑字母之间相关性时,其信源熵为H2 = 3.32比特/符号;以此类推,极限熵 H∞ =1.4比特/符号。问若用一般传送方式,冗余度γ为(0.71)
H∞ =1.5 冗余度为(0.68)
8.某对称离散信道的信道矩阵为 ,信道容量为(C)
C.
某信道传递矩阵为 ,其信道容量为(D)
D.
10.下列各图所示信道是对称信道的是(C)下列各图所示信道是删除信道的是(A) C . A.
当一个信道输入符号和输出符号的个数相同,且行对称、列对称的信道是 强对称 信道。
某信道为多输入、单输出,该信道的信道容量为 C=max I(X;Y)=max H(Y) 。
常用的最佳变长编码的是香农编码、费诺编码和哈夫曼编码。
唯一可译码存在的充分和必要条件:各码字的长度Ki应符合克劳夫特不等式 。
联合熵H(XY)与熵H(X)及条件熵H(X/Y)之间存在关系是 H(XY)=H(X)+H(Y/X) 。
16.设信源符号序列为X={0,1},接收端收到符号序列为Y={0,1,2},规定失真函数为 d(0,0)=d(1,1)=0 d(0,1)=d(1,0)=1 d(0,2)=d(1,2)=0.5
失真矩阵d为 。
17.下列各图所示信道是有噪无损信道的是( B )
二.简答题(共30分)
1.离散信源的分类。
2.无失真信源编码的分类。
2.画出通信系统的模型。
信源:发送消息的源。主要分为离散信源和模拟信源。
信宿:信息归宿之意,亦即收信者或用户,是信息传送的终点或目的地。
信道:传输信息的物理媒介
信源编码和译码
信源编码是把信源发出的消息变换成由二进制码元(或多进制码元)组成的代码组,这种代码组就是基带信号。同时通过信源编码可以压缩信源的冗余度,以提高通信系统传输消息的效率。
信源编码器分为两类:一类是无失真信源编码,适用于离散信源或数字信号;另一类是限失真信源编码,用于连续信源或模拟信号,如语音、图像等信号的数字处理。
信源编码器的主要指标:编码效率,即理论上能达到的码率与实际达到的码率之比。效率越高,编译码器的代价也将越大。
信源译码:是把信道译码器输出的代码组变换成信宿所需要的消息形式,它的作用相当于信源编码器的逆过程。
信道编码和译码
主要作用是提高信息传送的可靠性。
信道编码器的作用:在信源编码器输出的代码组上有目的地增加一些监督码元,使之具有检错或纠错的能力。
信道编码的主要方法:增大码率或频带,即增大所需的信道容量。这恰与信源编码相反。
信道译码器的作用:具有检错或纠错的功能,它能将落在其检错或纠错范围内的错传码元检出或纠正,以提高传输消息的可靠性。
加密编码
隐蔽消息中的信息内容,使它在传输过程中不被窃听.提高通信系统的安全性。
3.已知转移概率为,试画出状态转移图。
计算题
(20分)具有符号集的二元信源,信源发生概率为:。Z信道如图 所示,接收符号集,转移概率为:。发出符号与接收符号的失真:。
计算平均失真;
率失真函数R(D)的最大值是什么?当q为什么值时可达到该最大值?此时平均失真是多大?
率失真函数R(D)的最小值是什么?当q为什么值时可达到该最小值?此时平均失真是多大?
画出R(D)-D曲线。
解:
已知信源符号概率;
转移概率矩阵;
失真矩阵;
联合概率矩阵;
。
maxR(D)=R(Dmin)=H(X)=-plogp-(1-p)log(1-
文档评论(0)