suc信息论ppt课件信息论复习.pdfVIP

华侨大学 学院 通信工程系周林 Email: linzhou@hqu.edu.cn 1 论与编码技术复习 第一章 绪论 2 通信技术 概率论 多学科结合逐步发展而 论 随机过程 形成的一门新兴科学 数理统计 奠基人： 科学家香农（C.E.Shannon ） 1948年 “通信的数学理论” 本章内容：  基本概念  数字通信系统模型  论与编码理论研究的主要内容及意义 3 4 第二章 信源及其熵 5 信源的分类及其数学模型 6  自 量 1 I (a ) f [p (a )] log i i r p (a ) i  熵  1  q   H (X ) E log p( a ) log p( a )  r  r i r i  p( a ) i  i 1 7 熵函数性质  1、对称性：  2、确定性：  3、非负性：  4、扩展性  5、可加性  6、极值性 8 离散平稳无记忆N次扩展信源的熵 N H(X ) = H(X ) = N·H(X)