信息论与编码”期末复习题..docVIP

信研10“信息论与编码”期末复习题 信息论基础(狭义信息论/景点信息论/香农信息论)主要研究的三个方面是什么？ 信息测度、信道容量、信息率失真函数 全信息同时考虑的三个方面的内容是什么？ 语法信息、语义信息、语用信息消息、信号、信息的含义、定义及区别。信息的特征与分类。狭义信息论、广义信息论、一般信息论研究的领域。通信系统的物理模型（主要框图），各单元（方框）的主要功能及要解决的主要问题。 信源--如何确定信息量。?? 信宿--能收到或提取多少信息。?? 信道--信道容量的多少 通信的目的？要解决的最基本问题？通信有效性的概念。提高通信有效性的最根本途径？通信可靠性的概念。提高通信可靠性的最根本途径？随机事件的不确定度和它的自信息量之间的关系及区别？单符号离散信源的数学模型，自信息量、条件自信息量、联合自信息量的含义？信息量的性质？含义？分别从输入端、输出端和系统总体来理解互信息量的含义。各种熵（信源熵，条件熵，联合熵（共熵），等）的含义及其关系。信源熵的基本性质与定理及其理解？平均互信息量的定义及物理意义？平均互信息量的性质及理解？证明平均互信息量关于信源概率和信道转移概率的凸性定理。最大离散熵定理及其证明。凸函数的定义及其性质，定理。数据处理定理及其含义，证明。信源的种类（详细分类）？各举出几个例子。离散平稳信源的定义，平均符号熵，极限熵的定义，含义与理解。马尔可夫信源的定