西安邮电大学通信与信息工程学院信息论与编码课件第一章 概论.pptVIP

信息论与编码 本课程主要内容 概论（2） 信源与信息熵（10） 信道与信道容量（10） 信息率失真函数（6） 信源编码（10） 信道编码定理与分组码（10） 卷积码（10） 加密编码（4） 习题课（2） 课程性质 课程课时：64学时 考试形式：闭卷（30%、卷面成绩70%） 平常成绩包括：出勤、作业等 答疑地点：3#133 参考书目 教材：信息论基础与编码，王军选 田小平 曹红梅，人民邮电出版社，2011.9 参考书目： 信息处理与编码，吴伟陵，人民邮电出版社，1999 信息论与编码，付祖芸等，电子工业出版社，2006 Elements of Information Theory，T.M.Cover，清华大学出版社 ……. 第一章 概论 1.1 信息的基本概念 1.2信息论研究的对象和内容 1.3信息论的发展 1.1 信息的概念 信息是信息论中最基本、最重要的概念，既抽象又复杂，信息在日常生活中被认为是“消息”、“知识”、“情报”等 1.1 信息的概念 1.1 信息的概念 就狭义而言，在通信中对信息的表达分为三个层次：信号、消息、信息。 信号：是信息的物理表达层，是三个层次中最具体的层次。它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。 消息：(或称为符号)是信息的数学表达层，它虽不是一个物理量，但是可以定量地加以描述，它是具体物理信号的进一步数学抽象，