[工学]第3章_离散信源2.pptVIP

本章内容提要 离散信源的分类及其描述 离散信源的熵 信源的冗余度 信源符号序列分组定理 平稳离散信源及其性质 通信系统的任务是将信源的消息有效可靠地传送到信宿。 信源消息是多种多样的。 本章将重点讨论信源的数学模型以及如何度量信源消息中的信息。 从信源发出的消息在时间上和幅度上的分布 　 分为离散信源和连续信源； 从信源消息是模拟的还是数字的 　 分为模拟信源和数字信源； 　 对数字信源还可分为二进制信源和多进制信源。 对于离散信源，根据符号的特点以及符号间的关联性 　 可分无记忆离散信源和有记忆离散信源 对于前者，又可分为发出单个符号的无记忆离散信源和发出符号序列的无记忆离散信源 对于后者，又可分为发出符号序列的有记忆离散信源和发出符号序列的马尔可夫（Markov）信源 从描述信源消息的随机过程的平稳性角度 　 分为平稳信源和非平稳信源 按随机过程的类别 　 分为高斯信源、马尔可夫信源等 根据人们对信源消息的感知 　 分为数据信源、文本信源、语音信源、图像信源等，其中文本信源和语音信源都是针对人类语言、文字、声乐等感知的，又通称为自然语信源。 信源的分类方法可以有多种，但本质上主要基于两方面的考虑： 一是信源消息取值的集合以及消息取值时刻的集合，由此可分为离散信源、连续信源或数字信源、模拟信源等； 二是信源消息的统计