课件-信息论基础-东南大学.ppt

信息论基础 东南大学计算机学院 信息 信息科学 信息论 信息:某人被通知或告知的内容,情报,消息.信息作为技术术语被广泛使用是在计算机,特别是微处理器得到广泛应用以后的事. 信息作为一个可以用严格的数学公式定义的科学名词首先出现在统计数学中,随后又出现在通信技术中,是一种统计意义上的信息.统计信息是非常明确的,其适用范围比广义信息狭义的多. 信息 信息科学 信息论 信息科学:作为一个名词,最早出现在图书馆学中,主要研究图书文献的检索.在计算机出现以后,信息科学被赋予新的含义.但在不同国家中它的含义不尽相同.在日本信息科学的含义和美国的计算机科学的含义相似,主要研究科学计算的理论和方法.而在美国信息科学原先主要指科学计算以外,如商业,服务业,管理统计部门等所需要的,涉及大量数据但计算比较简单的数据处理问题.20世纪80年代以来,信息科学的含义不断扩大,不但逐渐把计算机科学的内容统一包含在内,而且有把信息技术涉及的所有科学理论统统包含在内的趋势. 信息 信息科学 信息论 信息论:是信息科学的基本理论.从历史上看信息论的形成是两部分人共同努力的结果,一部分是通信工程方面的学者,另一部分是统计数学家,这两部分人虽然研究的是同一领域的问题,但他们感兴趣的方面和侧重点是有差异的.这种情况从信息论产生时起一直保持到现在,今天从事信息论研究工作的人仍然由这两部分人组成. (