青海师范大学数学系信息论课件第1章 绪论.pptVIP

信息论基础 刘昌红 第一章 绪论 1、信息的概念 2、信息论研究的对象、目的和内容 3、信息论发展简史与信息科学 信息的概念 1、信息论的定义：信息论是人们在长期通信工程的实践中，由通信技术与概率论、随机过程和数理统计相结合而逐步发展起来的一门科学。 2、信息论的奠基人：是美国科学家香农 (C.E.Shannon)，他在1948年发表了著名的论文《通信的数学理论》，为信息论奠定了理论基础。 3、香农信息的定义：信息是事物运动状态或存在方式的不确定性的描述,这就是香农信息的定义。 4、信息、情报、知识、消息及信号间的区别与联系。 信息论研究的对象、目的和内容 信息论研究的对象:正是这种统一的通信系统模型,人们通过系统中消息的传输和处理来研究信息传输和处理的共同规律. 这个模型主要分成下列五个部分: 1、信息源（简称信源） 顾名思义，信源是产生消息和消息序列的源。它可以是人，生物，机器或其他事物。它是事物各种运动状态或存在状态的集合。 如前所述，“母亲的身体状况”，“各种气象状态”等客观存在是信源。人的大脑思维活动也是一种信源。信源的输出是消息，消息是具体的，但它不是信息本身。消息携带着信息，消息是信息的表达者。 信息论研究的对象、目的和内容 2、编