信息论 总复习详解.pptVIP

  • 1
  • 0
  • 约1.09千字
  • 约 49页
  • 2020-12-13 发布于福建
  • 举报
总复习 than University 1绪论 2信源的信息量 3离散信源 4离散信源的无失真编码 5离散信道及其编码定理 6连续信道及其容量 8信息率失真理论及其应用 10线性分组码 信息论的研究对象:通信系统模型 信源—编码器信道十解码器信宿」 消息 信号 信号+干扰 消息 干扰 信源 信道 噪声源 道 解密 通信系统模型 通信系统的基本任务要求 可靠:要使信源发出的消息经过传输后,尽可能准确地 不失真或限定失真地再现在接收端 有效:用尽可能短的时间和尽可能少的设备来传输最大的 消息 信源熵 than University ●单符号离散信源 ●自信息量 用概率测度定义信息量,设离散信源,其 概率空间为 ) 如果知道事件x1已发生,则该事件所含有的 自信息定义为 2)15 than University 联合自信息量 ●当X和Y相互独立时, p(Xiy, =p(Xi)ply Save than University ●条件自信息量:已知y;的条件下x1仍然存 在的不确定度 ●自信息量、条件自信息量和联合自信息量之 间的关系 °互信息量:y;对x1的互信息量定义为的后 验概率与先验概率比值的对数 ) ●两个不确定度之差是不确定度被消除的部分 ,即等于自信息量减去条件自信息量 Wuhan University ●平均信息量一信源熵:自信息的数学期望。也称为 信源的信息熵

文档评论(0)

1亿VIP精品文档

相关文档