信息论与编码第一信息论基础新.pptVIP

第一章 绪论 提纲 信息的概念 信息论的研究思路、目的和内容 概率回顾 1.1 信息的概念 世人谈及信息，远非今日起。 据《新辞海》考证，一千多年前唐代诗人李中《暮春怀故人》中有“梦断美人沉信息，日空长路倚楼台”的诗句，这恐怕是最早关于信息的文字记载。 人们与信息打交道的历史与自身一样悠久，人类从诞生起，一直与信息打交道。 利用指南针获取方向信息； 利用烽火告警加快信息传输的速度； 利用文字、纸张和印刷术实现信息的存贮； 利用望远镜、显微镜扩展信息感受器官； 利用算盘、计算机增强信息处理能力 当今人们生活在信息的海洋中，“信息”一词人人皆知。但它的含义到底是指什么？ 如果将信息作为一个相对广义的概念，大致可从三个方面来理解。 “信息”作为通信的消息来理解 “信息”是作为运算的内容而明确起来的 “信息”是作为人类感知的来源而存在的 （1）“信息”作为通信的消息来理解 在此意义下，信息可理解为人们在交流与通信时所要告诉对方的某种内容，如消息、情报、知识等。 朋友的信件与电话、 电台的天气预报、 球赛的电视转播等等， 都是交流和通信的一方要告诉另一方的消息。日常生活中人们常称之为“信息”。 如何理解信息和消息呢？ 信息与消息的区别与联系 以文字、语声、图象等载体把客观物质运动和主观思维活动的状态表达出来就成为消息， 消息是表达信息的工具 从通信的观点出发，构成消息的各种物理