信息论的形成与进展.pptVIP

信息论与编码Information Theory Coding主讲 张丽英 长春大学电子信息工程学院 2009年3月3日 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 总学时： 48 理论课： 40 习题测试： 8 周学时： 6 8周课 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 教材：《信息论与编码》 主编 曹雪虹 参考书 ： 1、《信息论与编码》 作者：付祖云 编著 电子工业出版社 2、《信息论与编码》作者：陈运 周亮 陈新 电子工业出版社 3、《应用信息论基础》 作者：朱雪龙 编著清华大学出版社 4、《信息论理论基础》 作者：贾世楼 编著 哈尔滨工业大学出版社 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 本课主要介绍信息的基本概念，信息论研究的对象、目的和内容，信息论发展简史及现状。 介绍了信息论三个基本概念，信源熵、信道容量和信息论失真函数，以及相关的编码定理，信源编码、信道编码、安全编码。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 目录 第一章 绪论 第二章 信源和信息熵 第三章 无失真信源编码 第四章 限失真信源编码 第五章 信道编码 第六章 密码学 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 第一章 绪论§1.1 信息论的形成和发展 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 一、什么是信息 C.E.Shannon：信息就是一种消息 N.Wiener： 信息是人与外界相互作用的过程 中所交换的内容的名称 钟义信： 信息就是事物运动的状态和方式，就是 关于事物运动的千差万别的状态和方式知识。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 20世纪通信技术的发展推动了信息理论的研究. 美国科学家H.Nyquist 于1924年解释了信号带宽和信息速率之间的关系. 美国科学家L.V.R.Hartley 于1928年开始研究通信系统传输信息的能力，给出了信息的度量方法. 美国科学家C.E.Shannon 于1948年发表的著名论文《通信的数学理论》 A Mathematical Theory of Communication奠定了信息论的理论基础. 二、信息论的形成和发展 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. C.E.Shannon针对人类的通信活动提出以下论点： （1）形式化假说：通信的基本问题是消息的接收端精确地或近似地复制发送端所挑选的消息。通常消息是有意义的，但通信的语义方面的问题与工程问题是无关的。 （2）非决定论：实际的消息总是可能发生的消息集合中挑选出来的，因此通信系统