原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
查看更多
无损编码的数学基础续
第二章：无损编码的数学基础
（续）
信息论简单回顾
信源模型
编码：
信源输出信息的有效表示：如何用二进制序列
有效表示信源的字母表的字母
对应码字1 对应码字2
信源字母 对应码字1 对应码字2
信源字母
a 001
a 001
0011010 00011
， 0011010 00011
，
A 1000001 000011
A 1000001 000011
编码
编码：对信源输出的符号按一定的数学规则映射到码字的
过程
X ：信源
x ：信源符号，其取值为字母表A a , a ,..., a 中的元素
{ 1 2 m }
W：码书/码表
：码字（codeword ）
w
X x , x , ..., x
{ 1 2 n } W {w , w , ..., w }
编码器 1 2 n
编码器 码字
信源符号集
0,1
{ }
码符号集
例：字母‘A’
ASCII:
Morse: •—
编码分类
等长码：一组码中所有码字的码长都相同
接收端只要能正确识别出一个码字的起始位就能正确
译码
变长码：任意码字由不同长度的码元序列组成
唯一可译性唯一可译码
译码实时性即时码
匀速输入输出匹配的缓存问题
唯一可译码
例：
字母表A= {a , a , a , a }
1 2 3 4
P(a ) = 1/2, P(a ) = 1/4, P(a ) = P(a ) = 1/8
1 2 3 4
H = 1.75 bits
l(a ) = length (codeword(a )), i=1..4
i i
平均长度l = Σ P(a ) l(a )
i=1..4 i i
可能的编码：
编码1 编码2 编码3 编码4
文档评论（0）