- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
第二章基本信息论6_连续信源的熵
2.6 连续信源的熵 一、连续信源熵的定义 [例]连续信源,其输出信号的概率分布密度如下图,计算其信源熵。 二、连续信源熵的性质 三、三种特定连续信源的最大熵 1、输出幅度范围受限(或瞬时功率受限)的信源 2、输出平均功率受限的信源 3、输出幅度平均值受限的信源 四、熵功率 熵功率Ph:与某个平均功率为P(幅度分布为非高斯分布)的非高斯信源有同样熵的高斯信源的平均功率。 * * 连续信源:输出在时间和取值上都是连续的信源 连续信源 求信源熵 离散信源 采样 若连续信源的频带受限,为W,则根据采样定理,只要采样频率大于2W,则连续信源经采样离散后,不损失任何信息。 将连续信源离散化为离散信源,其信源熵为: 解:信源熵 若将信号放大2倍,计算其信源熵 信息量放大了2倍? 说明:相比放大前,信号放大后无穷大项小了1比特,相对熵大了1比特,而绝对熵保持不变。 两个连续信源的联合熵 连续信源熵可正可负 条件熵 连续信源的共熵、条件熵和单独熵的关系 多元联合连续信源 设信源输出的信号幅度或瞬时功率受到限制,即其动态范围受限: 为均匀分布 结论:输出范围受限的连续信源,当其概率密度分布为均匀分布时,输出最大熵,最大熵的值为概率密度的倒数的对数。 设信源输出的平均功率受到限制为 为高斯分布 结论:输出平均功率受限的连续信源,当其概率密度分布为高斯分布时,输出最大熵,最大熵随着平均功率的增大而增大。 连续信源X输出非负信号的平均值受限,当其输出信号幅度为指数分布时,输出最大熵,最大熵随着X的数学期望(均值)的增大而增大。 熵功率是无差错传递必要信息的最小功率。
原创力文档


文档评论(0)