原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
通信原理;通信原理;Review;Review;Review;Review;单元概述 ;2．1 想知道什么
——信息;2．1 想知道什么
——信息;2．1 想知道什么——信息;2．1 想知道什么
——信息;2．1 想知道什么——信息;2．2 废话有多少信息量;2． 2 废话有多少信息量;2． 2 废话有多少信息量;2．2 废话有多少信息量;2．2 废话有多少信息量;2．2 废话有多少信息量;2．2 废话有多少信息量;2．2 废话有多少信息量; 【例2.1】 试计算二进制符号等概率和多进制(M进制)等概率时每个符号的信息量。
解：二进制等概率时，即P(1)=P(0)=1/2; 【例2.2】 试计算二进制符号不等概率时的信息量(设P(1)=P)。
解 P(1)=P， 故P(0)=1-P，则 ;例题;[例题]（顺便引出“信息熵”的概念）;[例题]（顺便引出“信息熵”的概念）;[例题]（顺便引出“信息熵”的概念）;[例题]（顺便引出“信息熵”的概念）;平均信息量;平均信息量;【例2.3】 设由5个符号组成的信息源， 其相应概率为 ; 【例2.4】 一信息源由4个符号A、B、C、D组成，它们出现的概率为3/8、1/4、1/4、1/8，且每个符号的出现都是独立的。试求信息源输出为CABACABDACBDAABDCACBABAADCBABAACDBACAACABADBCADCBAABCACBA的信息量。
解：信源输出的信息序列中，A出现23次，B出现14次，C出现13次，D出现7次，共有57个。则出现A的信息量为 ;出现B的信息量为 ;该信息源总的信息量为 ;实际上，用平均信息量公式直接计算可得 ;通信中要寻求解决的问题; 当离散信源中每个符号等概出现，而且各符号的出现为统计独立时，该信源的平均信息量最大。此时最大熵;图 2-1 熵与概率的关系;
对于三元离散信源，当概率P1=P2=P3=1/3时信源最大熵H(X)max=1.585(bit),此结论可以推广到N元离散信源。
减小或消除符号间的关联，并使各符号的出现趋于等概，将使离散信源达到最大熵，从而以最少的符号传输最大的信息量。这就是离散信源编码的目的。
;小结;信息对学习通信原理的意义;自测题 ;自测题
文档评论（0）