信息率失真函数演示文件修改版.ppt

六、率失真函数的性质 1. 率失真函数的定义域 关于 和 (2) 此时 当允许失真度 时， 编码完全失真， 且 有 问题 如何求 分析 意味着试验信道的输入 X 与输出 Y 相互独立； 反过来，如果输入 X 与输出 Y 相互独立，则 输入 X 与输出 Y 相互独立 . 六、率失真函数的性质 1. 率失真函数的定义域 关于 和 (2) 问题 如何求 求解 (1) 考虑所有使输入 X 与输出 Y 相互独立的实验信道， 它们的条件概率的集合记为 则 其中 (平均失真度) 即 六、率失真函数的性质 1. 率失真函数的定义域 关于 和 (2) 问题 如何求 求解 (2) (已知) 记 则 六、率失真函数的性质 1. 率失真函数的定义域 关于 和 (2) 问题 如何求 求解 (3) 令 则 由此可知，这时的实验信道是将输入信源 X 中的 所有消息符号 全部都输出为 Y 中某个特定的 消息符号 六、率失真函数的性质 1. 率失真函数的定义域 关于 和 (2) 输出符号的概率为 结论 其中 此时， 相应的编码方案为 转移概率为 (第 s 列) 解 (1) 设某信源为 失真矩阵为 例 编码后的输出为 信源的概率分布为 求率失真函数的定义域 以及 = 0.91 (bit) . 这时的编码器无失真， 对应的转移概率为 = 0 (bit) . 对应的转移概率为 此时，编码器完全失真， 相应的编码方案为 解 (2) 其中 即得 输出符号的概率为 六、率失真函数的性质 2. 率失真函数的凸性 定理 率失真函数 是关于 D 的(下)凸函数， 其中， 且 证明 (1) 存在 即 使得 即 六、率失真函数的性质 2. 率失真函数的凸性 定理 率失真函数 是关于 D 的(下)凸函数。 证明 (2) 记 则 故 六、率失真函数的性质 2. 率失真函数的凸性 定理 率失真函数 是关于 D 的(下)凸函数。 证明 (3) 即 由 是关于 的(下)凸函数，有 即得 证毕。 六、率失真函数的性质 2. 率失真函数的凸性 定理 率失真函数 是关于 D 的(下)凸函数。 3. 率失真函数的连续性 定理 率失真函数 是关于 D 的连续函数。 证明 (略) 由率失真函数的(下)凸性即可证其连续性。 4. 率失真函数的单调性 定理 率失真函数 在定义域 内是严格单调 下降函数。 率越小；反之亦然。 即允许的失真度越大，所要求的信息熵速 六、率失真函数的性质 4. 率失真函数的单调性 定理 率失真函数 在定义域 内是严格单调 下降函数。 率越小；反之亦然。 即允许的失真度越大，所要求的信息熵速 证明 (1) 设 由 有 (2) 由 故 是单调下降函数。 再由 的下凸性，可得 严格单调下降。 证明 六、率失真函数的性质 4. 率失真函数的单调性 定理 率失真函数 在定义域 内是严格单调 下降函数。 率越小；反之亦然。 即允许的失真度越大，所要求的信息熵速 有 由率失真函数的严格单调下降性质，可得如下结论。 结论 对于给定的允许失真度 D， 即若存在条件概率 使得 该结论的意义在于将最小值问题中的不等式约束条件 简化为等式约束条件。 的最小值一定 则 一定满足： 上取得。 在 的“边界” 假设 的最小值在 的 “内部” 取得， 即存在 满足 使得 证明 (反证法) 取 满足 则 与 严格单调下降矛盾。 由率失真函数的严格单调下降性质，可得如下结论。 * 第六章 信息率失真函数 * 第六章 信息率失真函数 §6.1 基本概念与性质 第六章 信息率失真函数 §6.2 离散信源的率失真函数的计算 §6.1 基本概念与性质