第2章信息论与编码基础.PDFVIP

第2 章 信息论与编码基础 以网络化、数字化、多媒体化和智能化为代表的现代信息技术，正在改变着人们传统的 生活、学习和工作方式，影响着教育的内容与方法。现代信息技术的发展和应用，使信息技 术教育已成为全球教育改革的重点。当代信息技术教育思潮普遍认为当代学生必须具有信息 素养。只有这样 ，他们才能在信息社会里学习、工作和发展。本章主要内容包括信息定义、 信息对社会发展的作用、信息技术的含义、信息产业与社会对信息人才的需求。主要介绍数 制及编码基础知识，带领学生探索信息资源宝库。 2.1 信息论综述 信息社会也称信息化社会，是脱离工业化社会以后，信息将起主要作用的社会。信息社 会的到来给全球带来了信息技术的飞速发展，推动了人类社会的发展和人类文明的进步，把 人类带入一个全新的信息时代。 2.1.1 信息 “信息”一词来源于拉丁文 “information ”，意思是解释与陈述，并且在多种文字中的 拼法或读法都是相同的。这表明 “信息”的定义在全世界范围内是具有同通性的。我们对英 语“information ”的汉语释义是“消息，见闻，情报，知识，通知，报道”等等，与汉语“信 息”本来的涵义大体相当。 1. 信息 信息是信息论中的一个术语，它如今的定义是：以适合于通信、存储或处理的形式来表示的 知识或消息，而且这些知识与消息还应该是有意义的。 1948年，美国数学家、信息论的创始人香农在题为 “通讯的数学理论”的论文中指出：“信 息是用来消除随机不定性的东西”。1948年，美国著名数学家、控制论的创始人维纳在《控制论》 一书中指出：“信息就是信息，既非物质，也非能量。” 在信息社会里，信息是人们赖以生存和发展的重要资源。人们需要知道信息、了解信息、分 析研究信息、利用信息，让信息为人们服务。信息可以以数据、信号、消息、报告、见闻、通知、 知识、概念、关系等形式出现，人们希望从繁杂的信息海洋中分析得出“真实”的结论来引导人 们的生活，从某种意义上说，获得信息、分析信息、利用信息已经成了我们目前生活的主要内容。 57 计算机基础 2. 信息论及其起源 信息论是关于信息量度量和信息编码、信号处理和分析的科学理论。 1746 年，英国工程师沃森在两英里长的电线上传递了电信号；1876 年，贝尔发明了电 话，从那时候人们就开始了对通信理论的一系列研究工作。信息科学可以说是从这个时候开 始的。 电报和电话都是用来传递信息的，怎样才能提高电报和电话的传输速率？1924 年贝尔实 验室的科学家尼奎斯特发表的一篇论文“影响电报速率因素的确定”研究了这个问题；1928 年哈特莱又发表了 “信息传输”一文。在这两篇文章里他们给出了信息度量的方法，研究了 通信系统传输信息的能力。 贝尔实验室(现在是朗讯贝尔实验室) 的工程师们和数学家们提出了几条制作数字式无线 电的原则。1948 年，美国科学家香农证实并发展了几十年前尼奎斯特提出的假定，发表了著 名的“通信的数学理论”一文，这篇奠基性的论文是建立在香农对通信的观察上，即“通信的根 本问题是报文的再生，在某一点与另外选择的一点上报文应该精确地或者近似地重现”。这篇 论文建立了信息论这一学科，给出了通信系统的线性示意模型，即信息源、发送者、信道、 接收者、信息宿。这是一个新的思想，他因此成为信息论的奠基人。 3. 信息的主要特征 信息是客观事物运动状态和存在方式的反映，主要具有如下一些特征。 （1）信息存在的广泛性 人类对客观物质世界的概括和反映处于永恒的运动之中，因而信息是普遍存在的。由于 事物是无限的，所以它们所产生的信息也必然是无限的。自人类存在以来，人们就在利用客 观存在的无穷无尽的信息资源。人们生活在信息世界中，自觉或不自觉地成为信息的制造者、 传递者、接受者。在多媒体时代，人们每天都接收着大量信息，人们需要掌握信息、了解信 息、利用信息。 （2 ）信息具有可传递性和共享性 信息无论在空间上还是在时间上都具有可传递性，而且可以同时被多人所共享。 信息在空间的传递称为通信。信息的发布者称为信源，信息的接受者称为信宿，信息的 通路称为信道。所以说，一个完整的信息传输过程必须具备信