三：信息论基础知识课件.pptVIP

第三章 信息论基础知识 信息与信息技术 信息论与广义通信系统 信息的定量描述 连续信源及最大熵定理 信息与熵的守恒定律 思考题（作业） §3-1 信息与信息技术 一、信息的定义 信息就是信息，不是物质，也不是能量。 信息是人和外界互相作用的过程中互相交换的内容的名称。（美国：维纳） 能够用来消除不定性的东西。（美国：山农） 信息是事物之间的差异，而不是事物本身。 （意大利：朗格） 凡是能从过去的事件中提取出来用以指导未来的，便是信息。 信息就是事物运动的状态和方式。 §3-1 信息与信息技术 二、信息的作用 1、信息是一种资源 正像物质和能量是人类生存和发展所必须的资源一样，信息也是一种不可缺少的资源。物质提供各种各样有用的材料；能源提供各种形式的动力；而信息向人类所提供的则是无穷无尽的知识和智慧。 2、物质、能量、信息三者的关系 现代科学认为，物质、能量、信息是物质世界的三大支柱，是科学史上三个最重要的概念，而这三者之间存在着密切的联系。 物质运动的动力是能量，而信息是关于物质运动状态的特征，只要有运动的事物，就需要有能量，也就会存在信息。信息是普遍的，因此也可以说，信息描述了客观事物变化的时空特性，即无时不有，无地不存。 §3-1 信息与信息技术 §3-1 信息与信息技术 3．信息的基本性质 (1)可以识别：信息可以通过人的感官直接识别，也可以通过各种探测器间接识别。 (2)可以转换：信息可以从一种形态转换成另一种形态，如语言、文字、图像、图表等信号形式；也可以转换成计算机代码及广播、电视等电信号，而电信号和代码又可以转换成语言、文字、图像等。 (3)可以存贮：人用脑神经细胞存贮信息(称作记忆)；计算机用内存贮器和外存贮器存贮信息；录音机、录相机用磁带等介质存贮信息等。 (4)可以传输：人与人之间的信息传递依靠语言、表情、动作；社会信息的传输借助报纸、杂志、广播；工程中的信息则可以借助机械、光、声、电等传输。 §3-1 信息与信息技术 三、信息科学 1．信息科学 信息科学是研究信息现象及其规律的科学。包括： 信息本身有关的规律； 有关利用信息方面的规律。 因此，也可以说，信息科学是关于如何认识信息以及如何利用信息的科学。 在认识信息方面：建立信息问题的完整的数学描述方法和定量度量方法；探明信息是怎样产生的，怎样识别、提取、变换、传递、检测、存贮、检索、处理和分析信息，研究这些过程中的基本规律和关系。 在利用信息方面：主要研究利用信息来进行有效控制和组织最优系统的一般原理和方法。 认识是基础，是前提；而利用是结果，是目的。认识和利用，两者密切关联，是一个统一的有机体。 信息科学的主体结构应是信息论、控制论、系统论三者的结合，而人工智能则是三者的综合利用。 §3-1 信息与信息技术 2．信息科学的目的和任务 以扩展人的信息功能作为主要的研究目标，这是信息科学区别于其他现代的和传统的科学的又一个根本特点。 信息科学的目的和任务：在分析、探索和掌握人的信息器官功能的机制基础上，运用信息科学提供的原理和方法以及各种技术(包括机械、电子、激光、生物等)，综合出新的人工系统，来延长、增强、补充和扩展人的信息器官的功能。 §3-1 信息与信息技术 四、信息技术 1．信息技术 ——凡是可以扩展人的信息功能的技术，都是信息技术。信息技术的主体内容包括传感技术、通信技术和计算机技术。 传感技术：主要包括信息的识别、检测、提取、变换以及某些信息处理技术，它是人的感官功能的扩展和延伸。 通信技术：包含信息的变换、传递存贮、处理以及某些控制与调节技术，它是人的信息传输系统(神经系统)功能的扩展和延长。 计算机技术：主要包括信息的存贮、检索、处理、分析、产生(决策或称指令信息)、以及控制等，它是人的信息处理器官 (大脑)功能的延长。 §3-1 信息与信息技术 2、信息技术与新技术革命 ——信息技术、新材料技术和新能源技术构成了科学技术和谐的鼎足结构。 微电子技术是由新材料和信息技术派生出来的一门新技术 激光技术是新能源和信息技术派生出来的新技术 生物、海洋和空间技术是新材料、新能源和信息技术派生出来的三门新技术 光导纤维通信和计算机技术是信息技术的分支。 §3-1 信息与信息技术 3、信息技术与传统技术 ——信息技术在当代整个技术体系中，担负着对传统技术进行补充、改造和更新的使命。信息技术在改造传统工业方面大有可为，其中最主要的贡献是实现工业生产过程的自动化。 §3-2 信息论与广义通信系统 一、信息论的基本概念 信息论源于通信工程，其发展背景源于通讯系统中的： (1)信息传输的效率； (2)信息传输的准确性； (3)噪声干扰；