信息论应用调研报告.docx

信息论基础调研报告一.信息论的起源：信息论理论基础的建立，一般来说开始于1948年美国数学家香农在《贝尔系统电话杂志》发表题为“通信的数学理论”的长篇论文。这篇论文以概率论为工具，深刻阐释了通信工程的一系列基本理论问题，给出了计算信源信息量和信道容量的方法和一般公式，得出了一组表征信息传递重要关系的编码定理，从而创立了信息论。信息论自诞生到现在不过60多年，在人类科学史上是相当短暂的。但它的发展对学术界以及人类社会的影响是相当广泛和深刻的。信息作为一种资源，如何开发、利用、共享，是人们普遍关心的问题。信息论是研究信息的传输、存储和处理的学科，亦称“信息论”为“通信的数学理论”。它主要研究在通信系统设计中如何实现信息传输的有效性和可靠性。因此，信息论与通信技术、统计数学信号处理等密切相关。二.信息技术的发展：现代信息论其实是从上世纪二十年代奈奎斯特和哈特莱的研究开始的，他们最早开始研究了通信系统传输信息的能力，并且试图度量系统的信道容量。香农于1940年在普林斯顿高级研究所期间开始思考信息论与有效通信系统的问题。经过8年的努力，1948年，来自贝尔研究所的Claude Shannon（克劳德·香农）的《通信的数学理论》论文公诸于世，从此宣告了崭新的一门关于信息发面的学科──信息论的诞生。1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。在这两篇论文中，香农阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。两篇论文成为了信息论的奠基性著作。这两篇论文一起阐述了现代信息论的基础。并且香农开始创造性的定义了“信息”。信息论自从二十世纪四十年代中叶到二十一世纪初期，现已成为一门独立的理论科学，他给出一切传输、存储、处理信息系统的一般理论，并指出，实现有效、可靠地传输和存储信息的途径是走数字化的道路。这是通信技术领域数字化革命的数学或理论基础。1946年的计算机和1947年晶体管的诞生和相应技术的发展，是这一革命的物理或物质基础。信息论是在长期的通信工程实践和理论研究的基础上发展起来的。20世纪50年代，包括香农在内的一些科学家做了大量的工作，发表了许多重要文章，将香农的科学论断进一步推广，同时信道编码理论有了较大的发展。20世纪60年代，信道编码技术已经成为信息论的又一重要分支。它把代数方法引入到纠错码的研究，使分组码技术达到了高峰，找到了可纠正多个错误的码，并提出了可实现的译码方法。其次是卷积码和概率译码有了重大突破，提出了序列译码和维特比译码方法。1961年，香农的重要论文“双路通信信道”开拓了多用户信息理论的研究。到70年代，由于数字计算机的广泛应用，通讯系统的能力也有很大提高，如何更有效地利用和处理信息，成为日益迫切的问题。人们越来越认识到信息的重要性，认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。信息的概念和方法已广泛渗透到各个科学领域，它迫切要求突破申农信息论的狭隘范围，以便使它能成为人类各种活动中所碰到的信息问题的基础理论，从而推动其他许多新兴学科进一步发展。三.信息论的相关技术的应用：1.信息论在生物学中的应用：生命体本身是一个复杂的信息传递、存储、处理、加工和控制的系统。理论上说，信息论应该和生物学有着密切关系。近几十年来，由于生物学的发展非常迅速，人们对生命现象的研究，已经从整体深入到细胞、亚细胞、分子水平和量子水平上，以揭示生命现象的本质。尤其是遗传信息方面的研究取得了重大进展和成效，从此确立了信息理论在生物学研究方面的重要作用和地位。特别是20世纪90年代以来，伴随着分子结构测定技术的突破和各种基因组测序计划的展开，生物学数据大量出现，如何分析这些数据，从中获得生物结构、功能的相关信息成为困扰生物学家的一个难题。生物信息学就是在此背景下发展起来的综合运用生物学、数学、统计学、物理学、化学、信息科学以及计算机科学等诸多学科的理论和方法的崭新和交叉学科。目前，国际上公认的生物信息学的研究内容大致包括以下几个方面。(1)生物信息的收集、储存、管理和提供。(2)基因组序列信息的提取和分析。(3)功能基因组相关信息分析。(4)生物大分子结构模拟和药物设计。(5)生物信息分析的技术与方法研究。(6)应用与发展研究。2．信息论在医学中的应用：医学是研究人的生命活动的本质，研究疾病发生发展的规律，研究诊断和防治疾病，恢复和保护人的身体健康的科学。信息论在医学上的应用，大大促进了医学的现代化。从信息论的观点看，有机体是不断接收与输出信息，以维持正常的生命活动。有机体中，信息熵标志着系统组织结构复杂的有序状态，由于新陈代谢的作用，有机体内部有序结构不断遭到破坏，这时熵增加，反之机体不断从外界接收信息——负熵，在机