单符号离散信源.ppt

下载文档

13
0
约6.01千字
约 46页
2016-12-30 发布于北京
举报
版权申诉
保障服务

单符号离散信源.ppt

1、本文档共46页，可阅读全部内容。
2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。

凸集和凸函数定义:若是凸集.若函数f :Rn—R满足: 则称f是S是上的∩型凸函数. 凸函数的几何解释: 函数图象上的任意两点确定的弦在其图象的下方. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 熵函数的上凸性熵函数H(P)=H(p1,p2,…,pr)是概率矢量P的∩型凸函数. 证明： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 信息熵的最大值最大离散熵定理均值受限的最大熵值 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 最大离散熵定理在约束条件∑pi=1的约束下,求熵函数H(p1,p2,…,pr) 的条件极大值? 解:作辅助函数两端对pi求偏导,并令其等于0,有 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 第1章单符号离散信源单符号离散信源的数学模型（1.1）自信息和信源熵（1.2—1.3，1.7）熵的基本性质和定理（1.4—1.6）加权熵及其基本性质（1.8） Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 单符号离散信源的数学模型信源可能输出的消息数是有限的或可数的，且每次只输出其中一个消息.用离散型随机变量X来描述这个信源输出的消息.随机变量X的样本空间就是符号集A；而X的概率分布就是各消息出现的先验概率，信源的概率空间必定是一个完备集. 当信源给定，其相应的概率空间就已给定；反之，如果概率空间给定，这就表示相应的信源已给定.所以，概率空间能表征这离散信源的统计特性，有时也称概率空间为信源空间. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 单符号离散信源的数学模型单符号离散信源的数学模型：其中： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 第1章单符号离散信源单符号离散信源的数学模型（1.1）自信息量和信源熵（1.2—1.3，1.7）熵的基本性质和定理（1.4—1.6）加权熵及其基本性质（1.8） Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 自信息量和信源熵自信息量： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 自信息量和信源熵自信息量： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 自信息量和信源熵自信息量公理性条件： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 自信息量