信息的概念和主要特征.pptVIP

信息的概念和主要特征 通信系统的模型 仙农信息论概述 信息论的产生与发展 仙农简介与学术风格 §1.1 信息的概念和主要特征 概述 信息的概念和主要特征 信息论的基本内容 物质 客观世界三大基本要素 能量 信息 信息时代社会的发展离不开物质(材料)、能量（能源）和信息资源。美国学者欧廷格说：“没有物质什麽都不存在，没有能量什麽都不发生，没有信息什麽都没意义。” 通信的基本问题：在一点精确地或近似地恢复另一点所选择的消息。 通信系统三项性能指标： 传输的有效性 传输的可靠性 传输的安全性 有效性 信源代码应尽量短（如摩尔斯电码“点”代表出现频率最高的字母e） ； 信息传输应尽量快；即高的传信率和高的频谱利用率。 可靠性 传输差错要尽量少 ，对数字传输就是要求低的误码率。 安全性 传输的信息不能泄露给未授权人。 　　数字通信的三项基本技术： 　数据压缩 　数据纠错 　数据加密 　　仙农信息论解决了前两项技术的理论问题：提高有效性可通过信源编码来实现，即信源压缩编码，并给出了压缩编码的极限；提高可靠性通过信道编码来实现，并给出实现可靠传输的信息传输速率的极限。所以说，仙农揭示了数据压缩和传输的基本定律。 1945年，仙农撰写了 《A Mathematical Theory of Cryptography 》 1949年，以 《Communication Theory of Secrecy System 》 公开发表 这篇文章建立了保密系统的数学理论，对密码学产生了很大的影响。人们认为，是仙农的工作才把密码学从艺术变成科学. 1.1.2 信息的概念和主要特征 由于信息已成为许多专家学者争相研究的对象，而且他们从不同的角度和侧面研究和定义信息。据说到目前为止已有上百种信息的定义或说法。例如，“信息是事物之间的差异”，“信息是物质与能量在时间与空间分布的不均匀性”，“信息是收信者事先不知道的东西”等等。 如前所述，由于当前还没有一个公认的关于信息的定义，但这并不影响我们对信息的基本特征的认识。信息有许多与物质、能量相同的特征，例如信息可以产生、消失、携带、处理和量度。信息也有与物质、能量不同的特征，例如，信息可以共享，可以无限制地复制等。 我们采用比较普遍的说法来描述广义信息： 信息是认识主体（人、生物、机器）所感受的和所表达的事物运动的状态和运动状态变化的方式。 信息有许多与物质、能量相同的特征，但也有许多与后者不同的特征。 信息的三个基本层次： 语法(Syntactic)信息 语义(Semantic) 信息 语用(Pragmatic)信息 语法(Syntactic)信息 它是事物运动的状态和变化方式的外在形式，不涉及状态的含义和效用。象语言学领域的“词与词的结合方式”，而不考虑词的含义与效用。在语言学中称为语法学。语法信息还可细分为，概率信息、偶发信息、确定信息、模糊信息等。 语义(Semantic) 信息 是事物运动的状态和变化方式的含义。在语言学里，研究“词与词的结合方式含义”的学科称为语义学。 语用(Pragmatic)信息 是事物运动状态及其状态改变方式的效用。 研究语义信息要以语法信息为基础，研究语用信息要以语义信息和语法信息为基础。三者之间，语法信息是最简单、最基本的层次，语用信息则是最复杂、最实用的层次。 仙农在1948年指出 ： 信息论研究语法信息 ： 仙农信息论或经典信息论所研究的信息是语法信息中的概率信息 在研究信息理论时，排除了语义信息与语用信息的因素，先从语法信息入手解决当时最重要的通信工程一类的信息传递问题。仙农还把信源看成具有输出的随机过程。所以仙农信息论研究的事物运动的状态和变化方式的外在形式是遵循某种概率分布的随机事件。 信号 通信信息三个层次 消息