华科-信息论与编码-非常详细、明了的课件-第一章.pptVIP

* 沈连丰等，信息论与编码，科学出版社，2004年9月 信道编码的内容较充实，“保密通信的理论基础”，“信息理论的广泛应用” Thomas M. Cover 著 Elements of Information Theory 清华大学出版社2003年11月 在美国获得最广泛应用的一本教科书，如麻省理工学院（MIT）、斯坦福大学（Stanford University）、加州大学伯克利分校（University of California at Berkeley）等 Thomas M. Cover 著 Elements of Information Theory 清华大学出版社2003年11月 在美国获得最广泛应用的一本教科书，如麻省理工学院（MIT）、斯坦福大学（Stanford University）、加州大学伯克利分校（University of California at Berkeley）等 Thomas M. Cover 著 Elements of Information Theory 清华大学出版社2003年11月 在美国获得最广泛应用的一本教科书，如麻省理工学院（MIT）、斯坦福大学（Stanford University）、加州大学伯克利分校（University of California at Berkeley）等 * * 香农信息的优缺点 * 其他信息定义 本课程后续讨论内容中将只使用香农先生的定义。 * 第1章 绪论 1.1 信息的一般概念 信息的定义 信息、信号与消息 信息的特征与性质 1.2 信息论的研究对象、目的和内容 1.3 信息论的形成和发展应用 * 信息与消息、信号间的区别与关系 * 例： (莫尔斯码) * 分析 分析1：上述通信活动中，信息、消息、信号分别是： 高频电脉冲是 “母病愈”这三个汉字是 对母亲健康状况不确定性的消除，是 其中，消息与信息的概念较为容易混淆。消息通常是具体的文字，数据、声音、图像等形式，而信息较为抽象。 分析2： 第二天哥哥又发了一封“母病愈”的电报。 收到消息但信息为0 通信前后的不确定度： 0 0 第一份电报，传输过程中变成乱码。 收到消息但信息为0 通信前后的不确定度： f(p) f(p) 信息 消息 信号 * 第1章 绪论 1.1 信息的一般概念 信息的定义 信息、信号与消息 信息的特征与性质 1.2 信息论的研究对象、目的和内容 1.3 信息论的形成和发展应用 * 信息的特征 信息是无形的 与物质和能量不同，信息看不见，摸不着，没有颜色、没有气味、没有形状、没有大小，没有重量……非常抽象。 信息是“活”的 信息来源于客观事物，人们能够直接或间接感知它，它是人脑思维活动的反映，可以说，人脑是信息的主要载体。它是动态的，有很强的时间性，如：股票市场信息，瞬息万变，只有及时把握有效的信息才能获得信息的最佳价值。 信息是可分享的 甲传递一件东西给乙，乙得到的同时甲便失去。 信息持有者将信息传递出去后，自己的信息并不丧失。 * 信息的特征 信息是能产生实效的 信息是可以处理的 人们得到信息之后，往往要对信息进行整理、归纳和再加工，使信息更加精练。 如：信息的压缩是信息论的主要研究内容之一。 信息是可以快速传播并扩散的 信息可以在短时间内通过电视、广播、网络等渠道迅速传播开来，顷刻之间即可传遍全球。 ... ... ... … * 第1章 绪论 1.1 信息的一般概念 1.2 信息论的研究对象、目的和内容 通信系统模型 信息论的内容和目的 1.3 信息论的形成和发展应用 * 信息运动过程 对应人 的部位 信息 运动 过程 使用 的 工具 对应的 信息 科学 与技术 传感器技术 遥感技术 雷达技术 通信理论技术 信息压缩技术 编码理论 网络技术 计算机科学与技术 人工智能 信号处理、图像处理 模式识别 控制 理论、 系统论 传感器 雷达探测 遥感、遥测 电话、广播、 电视、数据通信 计算机网络 计算 机、 光盘... 执行机构、 控制系统、 机器人等 外部世界 (自然环境 人类社会) 信息 获取 初步 处理 信息 传递 与分配 信息 处理 与存储 信息 施效 (控制) 视、听、 嗅、触摸 传导 神经 大脑 四肢 存储 * 通信系统模型 香农在创立信息论时，主要是考虑在通信领域中的应用。随着信息论的不断发展，其已逐渐渗透到计算机、雷达、导航、自动控制等领域，甚至已渗透到经济学、社会学等领域。但本课程只研究在通信领域中的应用。 信源 信源编码 信源译码 信宿 信道编码 信道 信道译码 + + 加密编码 解密译码 噪声源 S U C X Y ? V S n 通信系统基本模型 * 通信系统模型-信源和信宿 信源: 产生消息的源。 可是人、生物、机器