工程测试与信号分析ch3-信息论基础知识x.pptVIP

信号处理原理 第三章 信息论基础知识 主要内容 一、信息的定义和作用、信息科学与技术 二、信息论与广义通信系统 三、信息的定量描述-信源模型与信息熵 四、连续信源与最大熵定理 五、信息与熵的守恒定律 3-1 信息与信息技术 一、信息的定义 1. 泛说 地质工作者说: 信息就是资源 企业家说: 信息就是资本 管理工作者说: 信息就是办法 军事指挥家说: 信息就是胜利 . . . 现代汉语辞典：用符号传递的报道，报道的内容是接收符号者预先不知道的 。 日本广辞菀辞典：信息是对某种事物的预报。 信息定义 英语 information in 接收消息， formation 整理成章。 控制论创始人 N.Wiener ：人和外界互相作用过程中互相交换的内容的名称。 信息论奠基人 C.E.Shannon：熵的减少 2. 定义 事物运动的状态和方式 事物 物质 运动 广义的运动 状态 稳定 方式 变化 信息科学与信息技术 信息、数据、知识三者的区别 信息 What When Where Who 数据 How much How many Which Yes / No 知识 How