第1章信息论导论1.pptVIP

信息论导论 课程名称：信息论导论 所属学科：信息科学技术 领域方向：信息科学技术 学时：32学时(每周2学时) 主持教员：卢云 基本目的： 1、使学生对信息科学技术领域包含的各个学科、各个领域有一个整体的、较为全面的了解； 2、对信息科学技术各个主要学科方向的发展历史、发展现状以及发展趋势等有一个比较全面的了解； 3、使学生对微电子学、纳米电子学、量子电子学、计算机软硬件、计算机网络、自动化控制及信息系统、通讯技术、智能科学和信息安全等学科门类所采用的基本原理有一个比较明确的概念。  学习收获： 通过学习这门课，学生会有如下收获： 1、了解信息科学技术所包含的主要内容和各个专业方向的情况有一个大概的了解； 2、对信息科学技术各个主要领域的历史、现状和将来的发展趋势以及产业的状况有一个比较清晰的认识； 信息论导论 内容提要： 1信息与信息科学概论（ 4学时） 2信息技术基础设施（4学时） 3信息通讯技术（6学时） 4计算机网络技术（4学时） 5多媒体技术（2学时） 6信息自动化技术（2学时） 7信息系统（4学时） 8信息安全（2学时） 共计：28学时  教学方式：课堂讲授为主，每周2学时。 教材和参考书：教师讲课的PPT。 ? 微电子技术概述 贾新章 北京：国防工业出版社 信息论理论基础 贾世楼 哈工大出版 E－时代科技概论 谢孟贤 电子科大出版 学生成绩评定方法：期末考试70％，平时30％。习题：3--5次。 ?  每一章大致都将包括： 基本概念 欲解决的问题 一般理论、方法和技术 已取得的主要研究成果 未来发展趋势 第一章 信息与信息科学概论 内容 信息及处理 信息技术与信息革命 信息社会 信息技术应用 一、信息及处理 信息：广义地说，信息就是消息，一切存在都有信息 1、信息概念 信息观点： 1、控制论（美国数学家维纳） 信息是与外部世界进行交换的内容。 2、信息论（美国数学家香农） 信息是用来消除不确定性的东西 3、哲学观点 信息是在自然界、人类社会和人类思维活动中普遍存在的一切物质和事物的属性。 2、信息度量 信息的基本概念 信息：是消息的内容 消息：是信息的形式 Hartley和香农(C.E.Shannon)从消息的统计特性出发，从信息的不确定性和概率测度的角度定义了通信中信息量的概念，并给出了信息度量的方法。 信息度量 信息量：获得信息后所消除掉的不确定性的度量。 I(信息量)＝不肯定程度的减少量。 单一符号的信息量 u1u2u3…uN，ui?{xj}, j =1,…,k, 概率为P(xj) 单位： 对数以2为底，单位为比特 (bit) 对数以e为底，单位为奈特 (nit) 对数以10为底，单位为哈特莱 (Hartley) 3、信息论发展史 1：信息论发展史。 ① 1924年 奈金斯特（Nyguist.H）发表了“影响电报速率因素的确定”一文给出了信息度量方法和系统传输能力。 1928年???哈特莱（Hartley.L.V.R）发表“信息传输”一文。 ② 1948年 香农（shannon.C.E）发表“通信的数学理论”权威性论文，讨论了信源和信道特性。 1949年? 香农发表“噪声中通信”一文 这两篇论文奠定了现代信息论的基础 ③1946年 柯切尔尼柯夫（B..A.komejibHHKOB）发表“起伏噪声下的潜在抗干扰理论”学位论文，由最小错误概率准则和最小均方误差准则研究了离散消息和连续消息的最佳接收问题。 信息论发展史 ④1948年到1949年 维纳（Wiener.N）发表两篇名著 ：战时关于“目标自动预测和武器火力控制”的成果，用最少均方误差准则研究信号的过滤问题 ⑤近年来。在香农理论上发展的最佳噪声通信模型。信号检测理论和编码理论已成为代信息论的两个重要分支。像模糊信息、相对信息、主观信息、及智能信息处理、自动化信息控制等信息理论面貌为之一新，促进了信息科学发展。 4、信息的十大基本特征 信息研究的立体透视图 二、信息科学技术 2、信息科学 “信息科学”提出后，世界上有三种自称“信息科学”的体系存在。 特征是：仅研究特定领域中的某些信息，对其它领域中的信息不予充分的关