奈奎斯特介绍.doc

奈奎斯特，美国物理学家，1889年出生在瑞典。1976年在德克萨斯逝世。奈奎斯特对信息论做出了重大的贡献。奈奎斯特1907年移民到美国并于1912年进入北达克塔大学学习。1917年在耶鲁大学获得物理学博士学位。1917年～1934年在AT&T公司工作，后转入贝尔电话实验室工作。　　作为贝尔电话实验室的工程师，在热噪声(Johnson-Nyquist noise)和反馈放大器稳定性方面做出了很大的贡献他早期的理论性工作于确定传输信息的需满足的带宽要求，在《贝尔系统技术》期刊上发表了《影响电报速度传输速度的因素》文章，为后来香农的信息论奠定了基础。　　1927年，奈奎斯特确定了如果对某一带宽的有限时间连续信号（模拟信号）进行抽样，且在抽样率达到一定数值时，根据这些抽样值可以在接收端准确地恢复原信号。为不使原波形产生“半波损失”，采样率至少应为信号最高频率的两倍，这就是著名的奈奎斯特采样定理。奈奎斯特1928年发表了《电报传输理论的一定论题》。　　1954年，他从贝尔实验室退休克劳德·艾尔伍德·香农, 1916年4月30日出生于美国密歇根州的加洛德（Petoskey），1936年毕业于密歇根大学并获得数学和电子工程学士学位，1940年获得麻省理工学院（MIT）数学博士学位和电子工程硕士学位。1941年他加入贝尔实验室数学部，工作到1972年。1956年他成为麻省理工学院（MIT）客座教授，并于1958年成为终生教授，1978年成为名誉教授。香农博士于2001年2月26日去世，享年84岁。香农在普林斯顿高级研究所（The Institutefor Advanced Study at Princeton）期间，开始思考信息论与有效通信系统的问题。经过8年的努力，从1948年6月到10月，香农在《贝尔系统技术杂志》（Bell System Technical Journal）上连载发表了影像深远的论文《通讯的数学原理》。1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。在这两篇论文中，香农解决了过去许多悬而未决的问题：阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。两篇论文成为了信息论的基础性理论著作。那时，他才不过刚刚三十出头。　　香农的成就轰动了世界，激起了人们对信息论的巨大热情，它向各门学科冲击，研究规模象浪雪球一样越来越大。不仅在电子学的其他领域，如计算机、自动控制等方面大显身手，而且遍及物理学、化学、生物学、心理学、医学、经济学、人类学、语音学、统计学、管理学……等学科。它已远远地突破了香衣本人所研究和意料的范畴，即从香农的所谓“狭义盾息论”发展到了“广义信息论”。 香农一鸣惊人，成了这门新兴学科的奠基人。　　 20世纪80年代以来，当人们在议论未来的时候，人们的注意力又异口同声的集中到信息领域。按照国际一种流行的说法，未来将是一个高度信息化的社会。信息工业将发展成头号工业，社会上大多数的人将是在从事后息的生产、加工和流通。这时，人们才能更正确地估价香农工作的全部含义。信息论这个曾经只在专家们中间流传的学说，将来到更广大的人群之中。香农这个名字也飞出了专家的书斋和实验室，为更多的人所熟悉和了解。　　香农被尊称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《通信的数学原理》作为现代信息论研究的开端。这一文章部分基于哈里·奈奎斯特（Harry Nyquist）和拉尔夫·哈特利先前的成果。　　这一定义可以用来推算传递经二进制编码后的原信息所需的信道带宽。熵的概念量度的是消息中所含的信息量，而去除了消息中固有结构所决定的部分，比如，语言结构的冗余性以及语言中字母、词的使用频度等统计特性。　　信息论中熵的概念与物理学中的熵有着紧密的联系。玻耳兹曼与吉布斯在统计物理学中对熵做了很多的工作。信息论中的熵也正是受之启发。　　互信息(Mutual Information)是另一有用的信息度量，它是指两个事件集合之间的相关性。两个事件X和Y的互信息定义为： 　　其中 H(X,Y) 是共有熵(Joint Entropy)，其定义为： 　　互信息与多项式的对数可能性比率校验以及皮尔森的χ2校验有着密切的联系。