应用密码学 教学课件 作者 林东岱 曹天杰 第三章密码学的信息论基础.pptVIP

密码学的信息论基础 本章主要内容 概率论基础 完全保密性 信息的度量（信息熵） 熵的基本性质 伪密钥与唯一解距离 乘积密码体制 3.1 概率论基础 一个试验可能产生多个结果，每个结果称为一个简单事件，所有可能结果的集合称为样本空间。根据需要，我们只考虑有限多个可能结果的离散样本空间。 定义1：样本空间S上的一个离散随机变量X，用P ( X＝x )表示随机变量取x时的概率，简记为P ( x )，对于任意的x∈S，则有0≤P ( X＝x )≤1，而且可以得到 定义2：一个事件E是样本空间S的一个子集，事件发生的概率记为P ( E )。特别的，当E是一个简单事件x时P ( E )＝P ( x )。事件E发生的概率P ( E )为： 定义3：假设X和Y分别是定义在样本空间S1和S2上的随机变量。联合概率P ( x, y )是X取x且Y取y时的概率。条件概率P ( x / y )表示当Y取y时X取x的概率。如果对于任意的x∈S1和y∈S2,有P ( x, y )＝P ( x ) P ( y ),则称随机变量X和Y是统计独立的。而且对于联合概率和条件概率存在以下关系： 贝叶斯定理（Bayes定理）：如果P ( y )＞0，那么 由定义3的条件概率和联合概率的两个关系，直接可得贝叶斯定理（Bayes定理）。而且由定义3可得推论： 推论1：X和Y是相互独立的随机变量，当且仅当对所有