信息论与编码第二版第1章ppt.pptxVIP

2020/4/11;通信系统的主要性能指标： 有效性 可靠性 安全性 经济性 为了研究上述三种编码，必须要有理论基础－－信息论 信息论：一门应用概率论、随机过程、数理统计和近代代数的方法，来研究广义的信息传输、提取和处理系统中一般规律的学科。; 信息论与编码;教学目标： 　　本课程主要讲解香农信息论的基本理论、基本概念和基本方法，以及编码的理论和实现原理。介绍信息的统计度量，信道和信道容量；接着介绍无失真信源编码、限失真信源编码及各种常用信源编码方法；最后介绍信道编码理论。 教学重点： 　　信息度量、无失真信源编码、限失真信源编码、信道编码的基本理论及实现原理。; 第一章 绪论 1.1　信息论的形成和发展 1.2　通信系统的基本模型;1.1 信息论的形成和发展;克劳德·香农(Claude Elwood Shannon，1916-2001)1916年诞生于美国密西根州 。 香农的大部分时间是在贝尔实验室和MIT(麻省理工学院)度过的。 2001年，香农辞世。贝尔实验室和MIT发表的讣告都尊崇香农为信息论及数字通信时代的奠基人。 两大贡献：一是信息理论、信息熵的概念；另一是符号逻辑和开关理论。 好奇心强、重视实践、追求完美、永不满足的科学精神，这是他获得成功的重要经验。 ; 信息在早些时候是由奈奎斯特和哈特利在20世纪20年代提出来的。 1924 奈奎斯特 解释了信号带宽和信息速率间的关系 1928 哈特利 研究了通信系统传输信息的能力，给出了信息度量方法 1936 阿姆斯壮 提出了增大带宽可以使抗干扰能力加强;1941-1948 香农揭示通信系统传递的对象就是信息，并对信息给以科学的定量描述。提出了信息熵的概念。并指出通信系统的中心问题是在噪声下如何有效而可靠地传送信息，实现这一目标的主要方法是编码。 远远地突破了香农本人所研究和意料的范畴，即从香农的所谓“狭义信息论”发展到了“广义信息论”。;1951 美国无线电工程师学会成立了信息论组，于1955年正式出版了信息论汇刊 信道编码的研究 20世纪60年代 信道编码技术有了较大发展 70年代 卷积码和概率译码有了重大突破，提出了序列译码和Viterbi译码 80年代 提出了网格编码调制;1948 香农码—无失真信源编码； 1952 费诺编码和哈夫曼编码—最佳编码； 1959 香农提出了信息率失真理论和限失真信源编码理论； 20世纪70年代 ，有关信息论的研究，从单用户通信推广到多用户系统的研究。;信息的概念产生：互通情报 花朵开放时的色彩是一种信息，引来昆虫为其授粉； 古代的烽火狼烟； 摄像与绘画。;信息的五次变革 1、声音、手势及语音 2、文字符号进入人类社会 3、印刷术提供了新的信息活动手段 4、电磁波传播信息 5、计算机与通信的完美结合 信息时代 1、信息量急剧增加 2、电子产业蓬勃发展 3、社会劳动力结构发生重大变化（物质产品、知 识产品） ;人类发展的历史是沿着信息不断膨胀的方向前进的： 在信息量小、传播效率低的社会，发展速度缓慢； 在信息量大、传播效率高的社会，发展速度就快。 信息技术高速发展使得人类获得信息的深度、广度已今非昔比。如互联网： 无线广播问世38年后，拥有5000万听众； 电视诞生13年后，拥有同样数量的观众； 而互联网从1993年对公众开放，4年。 推动信息革命和信息技术发展的三项技术： 微电子技术---信息技术的‘细胞’ 通信技术---信息技术的‘神经’ 计算机技术---信息技术的‘大脑’;信息科学是一门综合性学科，它是研究信息极其运动规律的学科。 内容包括：信息的本质及度量、信息的产生、获取、传播、处理和施效的规律； 目的是扩展人类获取和利用信息的能力。 信息技术就是用信息科学的研究成果来解决实际生产问题，包括： 感测技术（信息获取） 通信技术（信息传输） 计算机技术（信息处理） 自动控制技术（信息施效） 信息产业是专门从事信息生产、传播、出售和服务的产业。包括信息技术设备制造 和 信息服务等。;? 一般含义 （一）“信息”是作为通信的消息来理解的。在这种意义下，“信息”是人们在通信时所要告诉对方的某种内容。 （二）“信息”是作为运算的内容而明确起来的。在这种意义下，“信息”是人们进行运算和处理所需要的条件、内容和结果，并常常表现为数字、数据、图表和曲线等形式。 （三）“信息”是作为人类感知的来源而存在的。 ;信息的本质 “信息是关于事物运动的状态和规律”。 知识是信息吗？ ; 在通信系统中，传送的本质内容是信息