第二节 信源熵 20130905.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
PCN SS Lab of USTC 信息论与编码 第二章 信源熵 第一节 信源的分类和描述 一、信源的分类 第一节 信源的分类和描述 一、信源的分类 第一节 信源的分类和描述 一、信源的分类 第一节 信源的分类和描述 第二章 第三节例题 第二章 第四节例题 物理与信息工程学院 郭里婷 * 福州大学物理与信息工程学院 郭里婷 (一)、无记忆单符号离散信源 例1:一个布袋中有100个球,其中80个红色,20个白色。随机摸取一个球,看颜色。球的颜色可以看成单符号无记忆离散信源。消息数量为2,红白消息的概率分别为0.8和0.2。 (二)、无记忆单符号连续信源 例2:一节5V的干电池,测电压。电压可以看成单符号无记忆连续信源。消息数无限多. (三)、无记忆符号序列离散信源 例3:一个布袋中有100个球,其中80个红色,20个白色。随机摸取一个球,看颜色后,放回布袋,再摸取一个球,看颜色。两个球颜色可以看成符号序列无记忆离散信源。共有四种消息。 (四)、无记忆符号序列连续信源 例4:两节干电池电压构成的信源。 (一)、有记忆符号序列离散信源 例1:一个布袋中有100个球,其中80个红色,20个白色。随机摸取一个球,看颜色后,不放回布袋,再摸取一个球,看颜色。两个球颜色可以看成符号序列有记忆离散信源。 (二)、有记忆符号序列连续信源 例2:时间抽样的语音序列等 。 (三)、模拟信源(波形信源) 例3:语音信号,L=2fmTB 。 马尔可夫信源例题: 解:由符号转移概率表(矩阵)可求得状态转移概率表(矩阵),利用该矩阵,可画出状态转移图。 马尔可夫信源例题: 例1:英文字母中e出现的概率为0.105,c出现的概率为0.023,o出现的概率是0.001,则它们的自信息量分别为: 第二章 第二节例题 例2:随机变量X表示人的性别,X=0表示男性,X=1表示女性;随即变量Y表示是否抽烟,Y=0表示抽烟,Y=1表示不抽烟。(X,Y)的联合分布分别如下3种情况时,求抽到的是男性给抽烟这个事件提供多大的信息量。 例3:设信源发出8种消息(符号),各消息等概发送,各符号分别用3位二进码元表示,并输出消息(事件),设8个消息按自然二进制进行编码,见p23表2-3。通过对输出码元序列的观察来推测信源的输出。假设信源发出的消息x4,用二进码011表示, 求依次接收0,01,011后,得到的关于x4的信息量。 解: * *

文档评论(0)

189****6140 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档