信息论——基础理论与应用（第5版）-习题及答案汇总 第1--13章 绪论 --- 量子信息科学简介.pdfVIP

第1章绪论 一、信息、情报、知识、消息及信号间的区别与联系 信息是信息论中最基本、最重要的概念，它是一个既抽象又复杂的概念。这一概念和在 实践中提出来的其他科学概念一样，是在人类社会互通情报的实践过程中产生的。 在日常生活中，信息常常被认为就是“消息、“情报、知识”、“情况”等。的确，信 息与它们之间是有着密切联系的。但是，信息的含义更深刻、更广泛，它是不能等同于消息、 情报、知识和情况的。 ●信息不等同于情报。 情报往往是军事学、文献学方面的习惯用词。 在“情报学这一新学科中，它们对于情报是这样定义的，“情报是人们对于某个特 定对象所见、所闻、所理解而产生的知识”。可见，情报的含义要比“信息”窄得多。它只 是一类特定的信息，不是信息的全体。 ●信息也不等同于知识。 知识是人们根据某种目的，从自然界收集得来的数据中，整理、概括、提取得到有价值 的、人们所需的信息。知识是一种具有普遍和概括性质的高层次的信息。 ●信息也不等同于消息。 人们也常常错误地把信息等同于消息，认为得到了消息，就是得到了信息。 的确，人们从接收到的电报、电话、广播和电视的消息中能获得各种信息，信息与消息 有着密切的联系。但是，信息与消息并不是一件事，不能等同。 因此，用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的 形式，把客观 物质运动和主观思维活动的状态表达出来就成为消息。 构成消息的各种形式必须具备两个条件：一是能被人们感知和理解的，二是可以进行传 递和获取的。 可见，消息中包含信息，是信息的载体。得到消息，从而获得信息。同一则信息可用不 同的消息形式来载荷。如前例中，球赛进展情况可用电视图像、广播语言、报纸文字等不同 消息来表述。而一则消息也可载荷不同的信息，它可能包含非常丰富的信息，也可能只包含 很少的信息。因此，信息与消息是既有区别又有联系的。 ●既然信息不同于消息，当然也不同于信号。 在各种实际通信系统中，往往为了克服时间或空间的限制而进行通信，必须对消息进行 加工处理。把消息变换成适合信道传输的物理量，这种物理量称为信号(如电信号，光信号， 声信号，生物信号等)。 信号携带着消息，它是消息的物理体现，是消息的运载工具。 所以，信息、消息和信号是既有区别又有联系的三个不同的概念。 二、简述香农信息定义的优点和缺点 香农定义的信息概念在现有的各种理解中，它比较深刻，有许多优点。 ●首先，它是一个科学的定义，有明确的数学模型和定量计算。 ●其次，它与日常用语中的信息的含意是一致的。 ●再者，它排除了对信息一词某些主观上的含义。根据上述定义，同样一个消息对任何 一个收信者来说，所得到的信息量(互信息)都是一样的。因此信息的概念是纯粹的形式化的 概念。 香农定义的信息有其局限性，存在一些缺陷。 ●首先，我们已经看到，这个定义的出发点是假定事物状态可以用一个以经典集合论为 基础的概率模型来描述。然而对实际某些事物运动状态或存在状态要寻找一个合适的概率模 型往往是非常困难的。对某些情况来讲，是否存在这样一种模型还值得探讨。而且这个定义 只考虑概率引发的不确定性，不考虑由于其他因素如模糊性等而造成的不确定性。 ●其次，这个定义和度量没有考虑收信者的主观特性和主观意义，也撇开了信息的具体 含意、具体用途、重要程度和引起后果等因素。这就与实际情况不完全一致。例如，当得到 同一消息后，对不同的收信者来说常会引起不同的感情、不同的关心程度、不同的价值，这 些都应认为是获得了不同的信息。因此，信息有很强的主观性和实用性。 三、信息具有哪些特性? ①信息、物质、能量统一于事物一身，信息和物质一起规定着事物的功能。 ②信息的存在具有普遍性、无限性、动态性、时效性和相对独立性。 ③信息具有可传递性、可转换性、可扩散性、可复制性、可存储性和可分割性，因而具 有可共享性。 ④信息具有可度量性。信息量守恒是客观事物固有的特性。信息不因认识而消失，也不 因传递、复制和扩散而增值。 四、通信系统模型主要分为哪些部分? (1)信息源(简称信源):顾名思义，信源是产生消息和消息序列的源。它可以是人、生物、 机器或其他事物。它是事物各种运动状态或存在状态的集合。 另外，信源可能出现的状态(即信源输出的消息)是随机的、不确定的，但又有一定的规 律