信息论第1章节内容.pptVIP

信息论与编码 莆田学院 留黎钦 llqsmile@ 课程计划 注意事项 信息论基础的重要性 信息论是信息科学和技术的基本理论,信息科学大厦的地基; 没有信息论的基础，从事通信与信息领域的研究和创新是不可能的事情; 总之,信息论是高层次信息技术人才必不可少的基础知识。 课程概述 当今的时代是一个信息的时代，信息处理技术的不断进步极大的影响了我们的生活，使我们的生活质量得到很大提高。本课程将介绍信息科学的基础理论和基本方法，课程将基于一个通信系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成 香农简介 1916年4月30日诞生于美国密西根州的Petoskey 。 1938年香农在MIT获得电气工程硕士学位。 1940年获得数学博士学位。之后就职于贝尔电话研究所。 1948年发表《通信的数学原理》，1949发表《噪声下的通信》。 2001年 老人痴呆症。 第一节 信息的概念 1、信息的通俗概念：人们认为信息是一种消息。 2、信息的广义概念:人们认为信息是对物质存在和运动形式的一般描述。1975年Lango提出“一旦您理解了是信息触发了行为和能力，信息是含于客体间的差别中而不是客体本身中，您就意识到在通信中所被利用的（亦即携带信息的）实际客体是不重要的，仅仅差别关系重要”。这里客体是指消息，差别是指信息，消息不同于信息的。 3、概率信息：香农提出来的，是对事物运动状态或存在方式的不确定性的描述。 信息虽无确切定义，但是却具有两个明显的特征：广泛性与抽象性。 广泛性 客观世界充满着信息 人类离不开信息 知识、书本是有用信息的积累 抽象性 信息本身是看不见的，摸不着的，它必须依附于一定的物质形式，如文字、声波、电磁波等。这种运载信息的物质，称为信息的载体。一切物质都有可能成为信息的载体。 新的中国电信企业标识整体造型质朴简约、线条流畅、富有动感。以中国电信的英文首个字母C的趋势线进行变化组合，似张开的双臂，又似充满活力的牛头和振翅飞翔的和平鸽，具有强烈的时代感和视觉冲击力。传递出中国电信的自信和热情，象征着四通八达，畅通、高效的电信网络连接着每一个角落，服务更多的用户； 也强烈表达了中国电信用户至上，用心服务的服务理念，体现了与用户手拉手、心连心的美好情感。同时也蕴含着中国电信全面创新、求真务实，不断超越的精神风貌，展现了中国电信与时俱进、奋发向上、蓬勃发展，致力于创造美好生活的良好愿景。 我们已经知道信息不是消息、消息也不同于信号。下面我们概括下信息、消息和信号三者的含义及其差别。 （1）信息 信息是一个非常抽象而又复杂的概念。它包含在消息之中，是通信系统中传送的对象。相对于物质、能量相比，它具有以下特殊的性质： 1)信息是无形的 2）信息是可共享的 信息的交流，不会使交流者失去原有的信息，而且还可以获得新的信息。信息是无限的，互相传递信息可以促进社会的进步。但同时在信息共享的时候也要注意信息的保密。 3）信息是无限的 信息作为事物运动状态和存在状态的一般描述，和事物及它们的运动一样是永恒的、无限的。信息的无限性还表现在时空上，如天气预报 4）信息是可度量的 信息论中主要问题就是解决信息数量和质量的度量。 信号：是信息的物理表达层，是三个层次中最具体的层次。它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。如电信号、光信号等。 消息：(或称为符号)是信息的数学表达层，它虽不是一个物理量，但是可以定量地加以描述，它是具体物理信号的进一步数学抽象。 第二节 信息论研究的对象、目的和内容 信息论研究的对象、目的和内容 信源：消息的来源 编码器：是把消息变换成适合在信道上传输的信号的设备。一般包括三个部分：信源编码器、纠错编码器、调制器。 信道：传递信号的媒介，如电缆、光纤、无线电波传播空间。 译码器：把信道输出的信号反变换位信宿可以接收的设备 信宿：信息的接收端 噪声：信道中的干扰 研究通信系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统最优化。所谓可靠性高，就是要使信源发出的消息经过信道传输以后，尽可能准确地、不失真地再现在接收端。而所谓有效性高，就是经济效果好，即用尽可能短的时间和尽可能少的设备来传送一定数量的信息。 以后会看到，提高可靠性和提高有效性常常会发生矛盾，这就需要统筹兼顾。 所谓保密性就是隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能被未授权者接收和理解。 所谓认证性是指接收者能正确判断所接收的消息的正确性和完整性，而不是伪造的和被篡改