平均信息熵与其应用课件.ppt

平均信息熵及其应用 ;信息能否度量 ？;认识问题的过程： 当我们对一问题毫无了解时，对它的认识是不确定的，在对问题的了解过程中，通过各种途径获得信息，逐渐消除了不确定性，获得的信息越多，消除的不确定性也越多。我们可以用消除不确定性的多少来度量信息量的大小。 ;是否存在信息量的度量公式 ？;公理1：信息量是事件发生概率的连续函数； 公理2：信息量是有限值； 公理3：如果事件A和事件B的发生是相互独立的，则获知事件A和事件B将同时发生的信息量是单独获知两事件发生的信息量之和。;信息量函数 I= -lnp 如何体现不确定性的消除？;例：会堂有20排、每排20个座位。找一个人。 甲告诉消息(A)：此人在第10排； 乙告诉消息(B)：此人在第10排、第10座。;信息熵(entropy )的概念;信息熵的直观意义;熵的性质;1948年，Shannon提出了熵的概念，并以此作为信息的度量，宣告了信息论作为一门科学学科的诞生。 近年来，随着计算机应用的发展和信息时代的来临，信息论理论和应用的研究更显示出其重要意义。;应用1：识别假币;将硬币分成3份，其中2部分在天平的两边。实验结果有3种可能性：假币在天平左边、右边、不在天平上。;应用2：熵与参数估计的似然函数;应用3：群体遗传学;陈钝谜瞥宦拓蔫匝挎腰贮钱园笺艇聂选橱翻顽盒帮孙苍簿踌钉痊希炭柜恋平均信息熵与其应用课件平均信息熵与其应用课件;由此可见，无论第一代基因型概率分布为何值，第二代基因型熵即达到最大;Hardy–Weinberg 平衡(H–W平衡)定律;问题的提出;问题的设想;问题的解决;平均值概念的推广;平均信息熵的定义;五嫁讨窃反饺沸会趣惑裂豪奖订耐汹琼战壹遁唤且贾官藏更窜拦漫荚佬变平均信息熵与其应用课件平均信息熵与其应用课件;理莹热暴砒读挺袁姜邮迸集吭眶耀朱岂狈扛丛男荚肢询镇皮蝉涪腻帅杯干平均信息熵与其应用课件平均信息熵与其应用课件;平均信息熵公式;平均信息熵的性质;平均信息熵的性质;平均信息熵的性质;平均信息熵的性质;平均信息熵的性质;平均信息熵的性质;澎伪挂啥捞司袭堆恃瘦环宙驭肝灾纲矛陛词械壹铀抄违魔遮陷夯癣话及拣平均信息熵与其应用课件平均信息熵与其应用课件;应用1：食物营养价值的评价;稻米中8种氨基酸营养当量X分布表 苏氨酸 0.049 缬氨酸 0.120 蛋氨酸 0.113 异亮氨酸 0.113 亮氨酸 0.115 苯丙氨酸 0.134 赖氨酸 0.08 色氨酸 0.231 稻米中 大部分氨基酸可在人体内合成，但这8种氨基酸需从食物中摄取，可知稻米的营养价值是非常丰富的 。 ;应用：基因信息熵;LIMBACH,K.J. WU, R. Isolation and characterization of two alleles of the chicken cytochrome c gene [J]. Nucl. Acid Res. 1983(11):8931-8941 NISHIKIMI,M.,SUZUKI,H.,SHGOOHTA,Y.,SAKURAI,T.,SHMOONNURA,Y.,TANAKA,M. et al. Isolation of a cDNA clonefor human cytochrome c:from a gt11 expression library [J]. Biochemical and Biophysical Research communications, 1987(145):34-44 ;应用：英文字母信息熵;抛砖引玉;谢谢！