InformationTheory解析.pdfVIP

信息论基础 Elements of Information Theory 陈克非 杭州师范大学理学院 kfchen@ /s/1kT1X4Jd ftp://kfchen:public@ 课程安排课程要求 上课时间地点  第1周-第16周，每周二，13:20-15:50 ，下沙校区A-201教室 什么是信息论  信息论假说 ：物质、能量与信息是组成世界的三大要素。人们已经 很深入地了解了物质与能量，而对信息的认识还相对较少。  信息论是运用概率论与数理统计的方法对信息定量化，将信息的传 递作为一种统计现象来考虑，给出了估算通信信道容量的方法。信 息传输、信息压缩以及信息保密是信息论研究中的重要领域。 本课程的目标  研究信息论基本内容及相关应用，即信息熵、信道容量以及信源和 信道编码和保密通信等问题，为进一步学习相关课程打下基础。 考核要求  出勤(15%)+平时的作业(35%)+期末考试(50%) 电子课件  /s/1kT1X4Jd  ftp://kfchen:public@ 教材及参考书 傅祖芸，赵建中，信息论与编码 （第二版），电子工业出版社， 2014 李梅, 李亦能, 信息论基础教程 （第4版）, 北京邮电大学出版社, 2008 于秀兰，王永，陈前斌，信息论 与编码，人民邮电出版社2014 T. M. Cover and J. A. Thomas, Elements of Information Theory, （信息论基础, 机械工业出版社, 2012） R. Bose, Information Theory, Coding and Cryptography, （信 息论、编码与密码学, 机械工业 出版社, 2005） 主要内容 第1章绪论 第2章离散信源及其信息测量 基本概念 第3章离散信道及其信道容量 第4章 （略去） 第5章无失真信源编码定理 第6章有噪信道编码定理 基础理论 第7章保真度准则下的信源编码 第8章无失真的信源编码 实际方法 第9章信道的纠错编码 第9’章通信保密与密码 相关应用 信息是什么？ 媒体（文字、音视频） 中对所方式事件的描述 和评论等等 还有什么形式？  新闻消息  基础数据  喜好习惯  规律和变化  。。。 存在形态  显示和隐式 如何利用信息