信息论工程基础.ppt

信息论工程基础  教师简介与联系方式 石志国,1978年生,博士,副教授。 2008年毕业于中国科学院软件研究所,并获得工学博士学位 分别于2000年和2003年在北京科技大学信息工程学院获得学士和硕士学位。 12003年到2004年为北京大学计算机科学技术研究所工作人员 2006年1月到2月在比利时鲁汶工学院做访问学者 代表性编著: 1.石志国等.信息安全概论清华大学出版社.2007,1 26有開酵没季菜套角空金款樱出湾杨些题芟 3石志国李向前为民C十+程序设计教程清华大学出版社.20058(荣 获20062年度全行业优秀畅销品种(科技类) Email:szg@iesustb.edu.cn 办公室:机电信息楼701 电话 课程安排 星期二 星期 信息工程基础 80n-9:45 总学时45 信息楼113 息FU82信 10.00-11:45 10-14周 信息工程基础 4:00-15:45 四 0-18周 息FDE1  信息论的起源 克劳德·艾尔伍德·香农( Claude elwood shannon,1916- 2001年)美国数学家,信息论的创始人.1948年香农在《贝尔 系统技术杂志》( Bell System Technical Journal)上连载发表了 著名的论文《通讯的数学原理》.1949年,香农又在该杂志上发 表了另一影响深远的论文《噪声下的通信》在这两篇论文中, 香农阐明了通信的基本问题,给出了通信系銑的模型,提出了 信息量的数学表达式,并解决了信道容量、信源统计特性、信 源编碼、信道编码等一系列基本问題.这两篇论文成为信息论 的基性著作 信息论创立的标志是1948年香农发表的论文“A Mathematical Theory of Communication  香农简历 克劳德·艾尔伍德·香农( Claude elwood Shannon,1916年4月 30日—2001年2月26日),美国数学家、信息论的创始人。密 1916年4月30日出生于美国密歇根州的加洛德( Petoskey)。 1936年毕业于密歇根大学并获得数学和电子工程学士学位 1940年获得麻省理工学院(MIT)数学博士学位和电子工程 硕士学位。 1941年他加入贝尔实验室数学部,工作到1972年。 1956年他成为麻省理工学院(MI)客座教授,并于1958年 成为终生教授,1978年成为名誉教授。 香农博士于2001年2月26日去世,享年84岁。  信息论的重要性 ·信息论是信息科学和技术的基本理论,信息科 学大厦的地基; 没有信息论的基础,从事通信与信息领域的研 究和创新是不可能的事情; 总之,信息论是高层次信息技术人才必不可少 的基础知识。  《信息工程基础》的基本内容 ·信息的含义与度量 信源的模型和特性 ·信源编码,提高信息含量 ·不同类型信道的模型和特性 信道编码,解决传送的可靠性问题 信息安全、密码学  凵教学目标 掌握信息传输、存储、处理与识别系统中关于信息的概念 、度量、编码理论与方法,为有效而可靠的设计信息系统 打下理论基础。要求了解信息论与编码理论的作用与意义 ,对信息论与编码理论的研究方法有一定的基本认识。 充分理解、熟练掌握教材的内容 熟练掌握基本的信息理论概念和定理 熟练掌握通信与信息工程中基本研究对象的数学描述 通过学习和习题练习,具备一定的解决问题分析问题的能 力,课堂例题要注意记笔记。 掌握一定的科学思想方法(用信息论的思想和观点)  总学时分布 第一章绪论2学时 第二章信息的度量6学时 第三章信源及信源熵6学时 第四章信道及信道容量6-8学时 第五章无失真信源编码6-8学时 第六章有噪信道编码6学时 第七章限失真信源编码6学时 总复习24学时  《参考书籍》 教材 李亦农、李梅,信息论基础教程,北京邮电大学出版社 视频材料 同济大学《信息论基础》36学时视频 华中科技大学《信息论基础》45学时视频 参考书: 《信息论-基础理论与应用》傅祖芸,电子工业出版社20011 《信息论与编码》曹雪虹,清华大学出版社200 《信息论理论基础》贾世楼,哈工大出版社,2001 《信息理论基础》周荫清,北航出版社2006 ■《 Elements of Information theory》 T M Cover., New York: Wiley, 1991 ■《 Applied Coding and Information Theory for Engineers》 Richar