原创力文档- 1、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。。
- 2、本文档由用户上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形，可联系本站下载客服投诉处理。
- 3、文档侵权举报电话：400-050-0827(电话支持时间：9:00-18:30)。
查看更多
1、熵对数据压缩编码的理论意义
信源的熵是对该信源进行无失真编码的极限
对信源进行无失真编码的最低码率就是该信源的熵
如果对信源进行编码的码率小于信源的熵，则这种编码是有失真的
2、例：某一信源 X 有四个符号，其出现概率为：
(a a aA4 = ||（1 2 1/24
(a a a
则该信源的熵为：
H (x) = -( 12) log 12 - 14 log
a )1 8)
a )
14 - 2 * 14 log
1
1
8
= 1.75 bit/符号
(||（1 0 1
平均码长 L=
文档评论（0）