系统工程第2章系统与系统工程.pptVIP

*就狭义而言，在通信中对信息的表达分为三个层次：信号、消息、信息。信号是信息的物理表达层，是三个层次中最具体的层次。它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。如电信号、光信号等。消息是信息的载体，它具有不同的形式：语言、文字、符号、数据、图片等。消息是具体的，它载荷信息，但它不是物理性的。信息是指各个事物运动的状态及状态变化的方式。信息是抽象的意识或知识，它是看不见、摸不到的。§4信息论基础 *信息是信号和消息的更高表达层次。三个层次中，信号最具体、信息最抽象。它们三者之间的关系是哲学上的内涵与外延的关系。信息可以认为是信号、消息的内涵，即消息具体载荷的内容、信号描述的含义。而信号、消息则是抽象信息的外延。同一信息，可以采用不同的消息形式（如文字、语言、图像）来载荷，而一则消息也可载荷不同的信息；同一信息，也可以采用不同的信号来表示，而同一信号也可表示不同的信息。§4信息论基础 *信息的重要性质存在的普遍性；有序性；相对性；可度量性；可扩充性；可存储、传输与携带性；可压缩性；可替代性；可共享性；时效性。信息是事物运动状态或存在方式的不确定性描述。香农信息认为在通信系统中形式上传送的是消息，但实质上传送的是信息。香农信息——概率信息（统计信息）§4信息论基础 *信息论是C.E.Shannon20世纪40年代后期，是以客观概率信息为研究对象，从通信的信息传输问题中总结和开拓出来的理论，是专门研究信息的有效处理和可靠传输的一般规律的学科，主要研究的问题：②信道的描述，信息传输的定量度量、分析与计算;①信源的描述，信息的定量度量、分析与计算;③信源、信道与通信系统之间的统计匹配，以及通信系统的优化——Shannon的三个编码定理。§4信息论基础 *信息论研究的对象为了便于研究信息传输和处理的共同规律，将各种通信系统中具有共同特性的那一部分抽取出来，概括成一个统一的理论基础，通常称它为通信系统模型。信息论研究的对象正是这种统一的通信系统模型。通信系统模型消息信号干扰消息信号§4信息论基础 *信源是产生消息和消息序列的源。编码器是将信源发出的消息变换成适用于信道传送的信号设备。一般编码器可分为两种，即信源编码器和信道编码器。信道是通信系统把载荷的消息的信号从甲地传输到乙地的媒介或信道。译码器是把信道输出的编码信号（已迭加了干扰）进行反变换，一般认为这种变换是可逆的。译码器一般也可分为信源译码器和信道译码器。信宿是消息传送的对象，即接受消息的人或机器。§4信息论基础 *信息论研究的目的找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、保密性和认证性，使信息传输系统达到最优化。信息论研究的内容关于信息论的研究内容是有过争议的。某些数学家认为信息论只是概率论的一个分支。有些物理学家认为信息论只是熵的理论。目前，对信息论研究的内容一般有以下三个理解：§4信息论基础 *它主要研究信息的测度、信道容量及信源和信道编码理论等问题，这部分内容是信息论的基本理论，又称香农基本理论。它主要研究信息传输和处理问题，但除了香农理论外，还包括噪声理论、信号滤波和预测理论、统计检测和估计理论、调制理论及信息处理理论和保密理论等。后一部分内容是以美科学家维纳（N.Wiener）为代表， 其中最有贡献的是维纳和前苏联科学家柯尔莫果洛夫（A.KOJIMOTOPOB）。①狭义信息论——经典信息论（香农信息论）②一般信息论——工程信息论§4信息论基础 *广义信息论不仅包括上述两方面的内容，而且包括所有与信息有关的领域，如心理学、遗传学、神经生理学、语言等，甚至包括社会学中有关信息论的问题。综上所述，信息论是一门应用概率论、随机过程、数理统计、近代代数等方法研究信息提取、传输和处理的科学。它的主要目的是提高信息系统的有效性和可靠性，以达到系统最优化。它的主要内容包括香农理论、编码理论、维纳理论、检测和估计理论、信号设计和处理理论、调制理论和随机噪声理论等。②广义信息论§4信息论基础 *信息论从诞生到今天，已有50多年历史，现已成为一门独立的理论学科。它是在长期的通信工程实践和理论研究的基础上发展起来的。①1832年，穆尔斯提