《信息论和编码》绪论-信源及信源熵.doc

第1次课 第一章 绪论 简单介绍本课程 教学重点和计划 信源及信源熵：约8学时 无失真信源及无失真信源编码：约8学时 限失真信源及限失真信源编码：约8学时 信道及信道容量、信道编码：约12学时 密码学：约8学时 参考书 1）信息论及信息处理，吴伟陵，人民邮电出版社 2）信息论—基础理论与应用，傅祖芸编著，电子工业出版社，2001 3）信息理论与编码，姜丹，钱玉美编著 4）信息论基础教程，李亦农编著，北京邮电大学出版社，2005 §1 信息的概念 信息这一概念是在人类社会互通情报的实践过程中产生的。信息在发展过程中主要经历了五次大的革命： 1、声音、手势及语言； 2、文字符号进入人类社会； 3、印刷术提供了新的信息活动手段：增大了信息的传播范围； 4、电磁波开始传播信息：加快了传播速度； 5、计算机与通信的完美结合。 推动信息革命和信息技术发展的三项技术： 微电子技术—信息技术的“细胞” 通信技术—信息技术的神经 计算机技术—信息技术的大脑 信息科学是一门综合性学科，它是研究信息及其运动规律的科学。其内容包括：信息的本质及其度量，信息的产生、获取、传播、处理和施效的规律。研究的目的是扩展人类获取和利用信息的能力。 信息技术是运用信息科学的研究成果来解决生产实际问题，包括： 感测技术（信息获取） 通信技术（信息传输） 计算机技术（信息处理） 自动控制技术（信息施效） 信