信息论_研究生.ppt

下载文档 降价啦

5
0
约小于1千字
约 275页
2019-10-24 发布于湖北
举报
版权申诉
保障服务

信息论_研究生.ppt

1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。

b y a x 0 {p(yj|xi)} X Y x1 x2 xn y1 yn-1 yn x1 xn y1 yn x1 x2 x3 y1 y2 y3 y4 y5 y6 y7 y8 x1 x2 x3 y1 y2 y3 x4 x5 P(Y1|X1) P(Y2|X2) P(YN|XN) X1 X2 XN Y1 Y2 YN 1 1 1 1 0 0 0 根叶枝例1 根 1 0 0 0 例2 根 0 0 0 1 1 1 110 111 根 0 0 0 1 1 1 0 10 110 111 序号xi 消息概率pi 第一次分解第二次第三次第四次二进制代码组码组长度 1 2 3 0.20 0.19 0.18 0 (0.57) 0 (0.20) 00 2 1 (0.37) 0 (0.19) 010 3 1 (0.18) 011 3 4 5 6 7 0.17 0.15 0.1 0.01 1 (0.43) 0 (0.17) 10 3 1 (0.26) 0 (0.15) 110 3 1 (0.11) 0 (0.1) 1110 4 0 (0.01) 1111 4 0.3 0.2 0.15 0.15 0.1 0.1 1 1 0 1 1 0 0 0 1 0 根二进制代码组为：11，01，101，100，001，000 bi:2,2,3,3,3,3 0.4 0.2 0.2 0.1 0.1 1(0.4) 1 0 1 1 0 0 0(0.2) 0(0.4) 根二进制代码组为：11，01，00，101，100 bi:2,2,2,3,3 1(0.6) 0.3 0.2 0.15 0.15 0.1 0.1 1(0.3) 2(0.5) 1 1 0 0 0(0.2) 根二进制代码组为：1，22，21，20，01，00 bi:1,2,2,2,2,2 2 {p(y|x)} X Y x1 y2 y1 x2 0.98 0. 8 0.02 0. 2 00 01 10 11 00 01 10 11 0.8 0.2 0.5 0.5 0.5 0.5 0.5 0.5 00 01 10 11 0.5 0.5 0.5 0.5 0.2 0.2 0.8 0.8 H(XY) H(X|Y) H(Y|X) H(X) H(Y) I(X;Y) =I(Y; X)