信息与信息技术；信息论与广义通信系统.PPTVIP

测试技术与信号处理 第三章 信息论基础知识 科学技术发展的今天，人们已普遍认识到，科学技术发展的三大支柱（能源、材料、信息）之一 ― 信息科学，占有头等重要的地位．信息论是信息科学的理论基础，是运用数理统计方法研究信息的获取、变换、传输与处理的新兴学科．广义信息论已经广泛地渗透于各种科学领域． 在工程技术领域，测试过程是从客观事物中提取有关信息的认识过程，因此测试技术属于信息科学范畴．将信息论引用于工程测试领域，对于促进工程技术的发展、拓宽和深入理解工程技术中的各种问题，具有十分重要的意义． 本章将介绍有关信息论的初步知识：信息与信息技术；信息论与广义通信系统；信源模型与信息熵等． 3 - 1 信息与信息技术 一、信息的定义 1 ．泛说 近些年来，“信息”几乎成了最时髦的词汇，无论什么，只要同信息一结合，似乎就显得很神秘．诸如，信息时代、信息社会、工业信息、经济信息、自然信息、生物信息、工程信息等．不仅如此，由于人们在同信息打交道的过程中，不断发现信息的新的妙用，于是就赋予它各种各样动人的比喻．地质工作者说：“信息就是资源”，因为有了相应的信息，就意味着有了资源；企业家说“信息就是资本”，因为掌握了市场信息，就可以赢得更多的利润，从而可以积累更多的资本；管理工作者说“信息就是办法”，有了信息就可以心中有数，就可以作出正确的决策；军事指挥家则说“信息就是胜利” , 因为只有知彼知己才能做到百战百胜等等．虽然这些说法本身并不十分确切，却都有它一定的道理．特别是在军事上，往往一则信息就可以彻底改变整个战局．这样的事例，在战争史上是屡见不鲜的．第二次世界大战期间，日军偷袭珍珠港，得益于信息保密的成功；但在进攻中途岛的时候，却由于日军信息被美方截获，致使满盘皆输，连最高指挥官山本五十六也因此丧命．可见信息之威力与神通． 但是，具有威力和神通的信息本身究竟是怎么回事呢？到底什么是信息呢？ 有人说，信息就是消息．所谓得到了信息，就是得到了消息．这种说法有它一定道理，但并不确切．确切地说：信息是消息的内核，消息是信息的外壳，消息与信息并不是一回事一则消息可能包含非常丰富的信息，也可能只包含很少的信息．例如，迟到消息，没有价值；小道消息，有真有假；参考消息，参考参考而已． 也有人说，信息就是情报．不错，在一定条件下，信息就是情报．但是从一般情形来讲，情报和信息也不能等同．情报只是信息中的一个类，而不是全体．此外，还有人认为，信息就是知识，这也要有条件，反过来讲，知识是一种信息，这是对的，但知识也是信息的一部分，而不是全体．既然信息不能等同于消息、情报、知识，也不等同于信号，那么，应怎样来定义信息呢？应当承认，到目前为止，人们还没有在这方面取得完全一致的认识．人们已经给信息下过许许多多的定义，但是还没有一种能够得到普遍的公认．此点表明，人们对于信息的研究还没有达到完全揭示本质的程度． 2 ．定义 控制论创始人之一，美国科学家维纳（ N . Wiener ）在 1948 年出版的奠基性著作 《 控制论 ― 书中指出：动物和机器中的通信与控制问题 》 “信息就是信息，不是物质，也不是能量。”他的这个论断，在信息与物质和能量之间划了一道界限．后来，他又在《人有人的用处 》 一书中，提出了新的看法：信息就是人和外界互相作用的过程中互相交换的内容的名称． 同在 1948 年，信息论奠基人，美国科学家山农（ C . E . Shannon ) ，在“通信的数学理论”一文中，把信息定义为熵的减少．换句话说，他把信息定义为“能够用来消除不定性的东西”，因为熵是不定性的度量，熵的减少就是不定性的减少． 意大利学者朗格（ G . Longo）在 1 975年出版的 《 信息论：新趋势和未决问题》 一书中，也提出了一种定义：“信息是事物之间的差异，而不是事物本身。” 二、信息的作用 1 ．信息是一种资源 正像物质和能量是人类生存和发展所必需的资源一样，信息也是一种不可缺少的资源．物质提供各种各样有用的材料；能源提供各种形式的动力；而信息向人类所提供的，则是无穷无尽的知识和智慧．人类生存没有必需的材料和动力不行，没有信息更不行． 2 ．物质、能量、信息三者的关系 现代科学认为：物质、能量、信息是物质世界的三大支柱，是科学史上三个最重要的基本概念，而这三者之间存在着密切的联系．物质运动的动力是能量，而信息是关于物质运动状态的特征，只要有运动的事物，就需要有能量，也就会存在信息．信息是普遍的．因此也可以说，信息描述了客观事物变化的时空特性，即无时不有，无地不存． 可见，在这三者之中，驾驭全局的是信息．物质使系统具有形体，能量使系统具有力量，而信息则使系统具有了“灵魂。 自动化轧钢系统，如图 3- 2 所示． 3 ．信息的基本性质 ( l ）可以识别信息 ( 2 ）可以