信息论1--第1章.pptVIP

* 信息论研究的内容 3、编码理论与技术的研究 有效性编码： 提高信息传输的有效率，主要针对信源的统计特性进行编码，也称信源编码。 抗干扰编码： 提高信息传输的可靠性，主要针对信道统的计特性进行编码；也称信道编码。 * 信息论研究的内容 4、提高信息传输效率的研究 功率的节约； 频带的压缩； 传输时间的缩短，即快速传输问题。 5、抗干扰理论与技术的研究 各种调制制式的抗干扰性； 理想接收机的实现 6、噪声中信号检测理论与技术的研究 信号检测的最佳准则； 信号最佳检测的实现。 * 1.3 信息论的形成和发展 * Claude Shannon (1916-2001) “通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息”。这是数学家香农(Claude E.Shanon)在他的惊世之著《通信的数学理论》中的一句铭言。 香农应用数理统计的方法来研究通信系统，从而创立了影响深远的信息论。 香农因此成为信息论的奠基人 * 香农:1816年生于美国密执安州的加洛德。在大学中他就表现出了对数理问题的高度敏感。他的硕士论文就是关于布尔代数在逻辑开关理论中的应用。后来,他就职于贝尔电话研究所,在这个世界上最大的通信公司(美国电话电报公司)的研究基地里,他受着前辈的工作的启示,其中最具代表性的是《贝尔系统技术杂志》上所披露的奈奎斯特的《影响电报速率的一些因素》和哈特莱的《信息的传输》。正是他们最早研究了通信系统的信息传输能力,第一次提出了信息量的概念,并试图用教学公式予以描述。香农则创造性地继承了他们的事业,在信息论的领域中钻研了8年之久,终于在1948年也在《贝尔系统技术杂志》上发表了244页的长篇论著《通信的数学理论》。次年,他又在同一杂志上发表了另一篇名著《噪声下的通信》。 * 在这两篇文章中，香农解决了过去许多悬而未决的问题：经典地阐明了通信的基本问题，提出了通信系统的模型，给出了信息量的数学表达式，解决了信道容量、信源统计特性、信源编码、信道编码等有关精确地传送通信符号的基本技术问题。 两篇文章成了现在信息论的奠基著作。 香农的成就轰动了世界，激起了人们对信息论的巨大热情，它向各门学科冲击，研究规模像滚雪球一样越来越大。不仅在电子学的其他领域,如计算机、自动控制等方面大显身手,而且遍及物理学、化学、生物学、心理学、医学、经济学、人类学、语音学、统计学、管理学……等学科。它已远远地突破了香农本人所研究和意料的范畴，即从香农的所谓“狭义信息论”发展到了“广义信息论”。 * 控制论创始人维纳同期出版“Control Theory”和“Extrapolation, Interpolation and Smoothing of Stationary Time Series” 两本名著，建立维纳滤波理论和信号预测理论，也提出了信息量的统计数学公式，因此也是信息论创始人之一。 法国物理学家L.布里渊1956年发表《科学与信息论》专著，从热力学和生命等许多方面探讨信息论，把热力学熵与信息熵直接联系起来。 英国神经生理学家W.B.Ashby1964年发表“系统与信息”等文章，把信息论推广应用于生物学和神经生理学领域。这些科学家们的研究，以及后来从经济、管理和社会的各个部门对信息论的研究，使信息论远远地超越了通信的范围。 * 信息科学是由信息论、控制论、计算机科学、仿生学、系统工程与人工智能等学科互相渗透而形成的。 它是研究信息的获取、存储、传输、加工处理和利用等内容的科学。 信息和控制是信息科学的基础和核心。 20世纪70年代以来，电视、数据通信、遥感和生物医学工程的发展，向信息科学提出大量的研究课题，如信息的压缩、增强、恢复等图像处理和传输技术，信息特征的抽取、分类和识别的模式、识别理论和方法，出现了实用的图像处理和模式识别系统。 * 信息科学的支撑体系主要是电子学、光子学和材料学等，目前研究领域包括：光通信技术、通信与信息系统、物理电子与纳米技术、无线通信技术、量子电子学与激光技术、计算机软件、计算机体系结构、计算机网络与信息系统、数字多媒体技术、机器感知与机器智能、智能信息处理技术、信号与信息处理、微电子机械系统、微电子学与集成电路技术等。 * 1. 信息与通信工程一级学科 信息科学已成为世界各国优先发展的科学之一。我国20世纪90年代中期，在进行科学研究的学科规划和调整时，将工程学科原来100多个一级学科调整为31个，但却将原来的“电子与信息系统”调整为“信息与通信工程”和“电子科学与技术”两个一级学科。 这是由于信息科学与通信的关系最为密切。信息与通信工程下设“通信与信息系统”和“信号与信息处理”两个二级学科。 * 通信与信息系统研究对象是以信息传输、交换以及信息网络为主体的各类通信与信息系统。 学科的主要研究方向是：信息