电子科技大学信息论及历年考题.pptVIP

例:若有一个离散、等概率单消息(或无记 忆)二元信源: p(x)=p(x)=2,且采用汉明距离作为失真度量标准:即 有一具体信源编码方案为:N个码元中允许错一个码元, 实现时N个码元仅送N1个,剩下一个不送,在接收端 用随机方式决定(为掷硬币方式) 根据已知条件,可知此时速率R及平均失真D相应为 N-1 b/符号 N 2 2N 所以,推导可知: R(D)=1-=1-2x=1-2D  二元信源的理论信息率失真函数H()-H(D) 二元信源的实际信息率失累的激=1-2D 2D) ·阴影范围表示实际信源 R(D)实际 编码方案与理论值间的差 距,我们完全可以找到更 2(D埋论 好,即更靠近理论值,缩 小阴影范围的信源编码 D这就是工程界寻找好的信 源编码的方向和任务  例:设信源具有一百个以等概率出现的符号a1,a2,… 并以每秒发出一个符号的速率从信源输出。试 求在允许失真度D=0.1条件下,传输这些消息所需要的最 小信息率 无扰离散 Ip(y, Ix, )1 信道 失真信  解:在不失真传输条件下的信息率R为: R=H(x=1g100=6.644bit/s 因为允许失真度D=0.1,可设想信源100个符号 经过假想的试验信道只输出a1,a2,…,ag, a9,即输出90个符号,而余下的ag1,…,y100 都