信息论与编码复习总结.docVIP

  • 20
  • 0
  • 约1.91千字
  • 约 7页
  • 2019-05-16 发布于安徽
  • 举报
. . 信息论与编码复习总结 题型:填空、解答、计算 编码:无失真与限失真信源编码定理 编码分为信源编码和信道编码,其中信源编码又分为无失真和限失真 三大定理: 无失真信源编码定理(第一极限定理)(可逆) 信道编码定理(第二极限定理) 限失真信源编码定理(第三极限定理) (不可逆) Shannon(香农)信息论:在噪声环境下,可靠地、安全地、有效地传送信息理论。 通信系统模型方框图: 信道的种类很多,如电信中常用的架空明线、同轴电缆、波导、光纤、传输电磁波的空间等都是信道。也可以从信道的性质或其传送的信号情况来分类,例如:无干扰信道和有干扰信道、恒参信道和变参信道、离散信道(Discrete Channel)和连续信道(Continuous Channel)、单用户信道和多用户信道等。 信源的描述:通过概率空间描述 平稳包含齐次,而齐次不包含平稳 (重要,第二章计算题) 定义:若齐次马尔可夫链对一切i,j存在不依赖于i的极限,则称其具有遍历性,pj称为平稳分布(如下) 设有一齐次马尔可夫链,其状态转移矩阵为P,其稳态分布为wj=p(sj) 自信息量的特性: p(xi)=1,I(xi)=0; p(xi)=0,I(xi)=∞; 非负性;单调递减性;可加性; 定义:联合概率空间中任一联合事件的联合(自)信息量为: 定义:对于给定离散概率空间表示的信源,在出现y事

文档评论(0)

1亿VIP精品文档

相关文档