概率论上的母函数.docVIP

概率论上的母函数（generating fucnction）定义：若随机变量ξ取非负整数值，且相应的分布列为：（ 0，1，2）（ p0，p1，p2 ）则pk*sk （k从0到无穷）的和为s的函数，此函数称为的母函数。 特征函数 (概率论) 在概率论中，任何随机变量的特征函数完全定义了它的概率分布。在实直线上，它由以下公式给出，其中X是任何具有该分布的随机变量： 其中t是一个实数，i是虚数单位，E表示期望值。 用矩母函数MX(t)来表示（如果它存在），特征函数就是iX的矩母函数，或X在虚数轴上求得的矩母函数。 与矩母函数不同，特征函数总是存在。 如果FX是累积分布函数，那么特征函数由黎曼-斯蒂尔切斯积分给出： 在概率密度函数fX存在的情况下，该公式就变为： 如果X是一个向量值随机变量，我们便取自变量t为向量，tX为数量积。 R或Rn上的每一个概率分布都有特征函数，因为我们是在有限测度的空间上对一个有界函数进行积分，且对于每一个特征函数都正好有一个概率分布。 一个对称概率密度函数的特征函数（也就是满足fX(x) = fX(-x)）是实数，因为从x0所获得的虚数部分与从x0所获得的相互抵消。 性質 连续性 勒维连续定理 勒维连续定理说明，假设为一个随机变量序列，其中每一个Xn都有特征函数(n，那么它依分布收敛于某个随机变量X： 当 如果 当 且( (t)在t=0处连续，(是X的特征函数。 莱维连续定理可以用来证明弱大数定律。 反演定理 在累积概率分布函数与特征函数之间存在双射。也就是说，两个不同的概率分布不能有相同的特征函数。 给定一个特征函数(，可以用以下公式求得对应的累积概率分布函数F： 一般地，这是一个广义积分；被积分的函数可能只是条件可积而不是勒贝格可积的，也就是说，它的绝对值的积分可能是无穷大。[1] 博赫纳-辛钦定理/公理化定義 博赫纳定理 任意一个函数(是对应于某个概率律μ的特征函数，当且仅当满足以下三个条件： ( (t)是连续的； ( (0)=1； ( (t)是一个正定函数（注意这是一个复杂的条件，与( (t)0不等价）。 計算性质 特征函数对于处理独立随机变量的函数特别有用。例如，如果X1、X2、……、Xn是一个独立（不一定同分布）的随机变量的序列，且 其中ai是常数，那么Sn的特征函数为： 特别地，。这是因为： 注意我们需要X和Y的独立性来确立第三和第四个表达式的相等性。 另外一个特殊情况，是ai = 1 / n且Sn为样本平均值。在这个情况下，用表示平均值，我们便有： 特征函数的应用 由于连续定理，特征函数被用于中心极限定理的最常见的证明中。 矩 特征函数还可以用来求出某个随机变量的矩。只要第n个矩存在，特征函数就可以微分n次，得到： 例如，假设X具有标准柯西分布。那么。它在t = 0处不可微，说明柯西分布没有期望值。另外，注意到n个独立的观测的样本平均值具有特征函,利用前一节的结果。这就是标准柯西分布的特征函数；因此，样本平均值与总体本身具有相同的分布。 特征函数的对数是一个累积量母函数，它对于求出累积量是十分有用的；注意有时定义累积量母函数为矩母函数的对数，而把特征函数的对数称为第二累积量母函数。 一个例子 具有尺度参数θ和形状参数k的伽玛分布的特征函数为： 现在假设我们有： 且 其中X和Y相互独立，我们想要知道X + Y的分布是什么。X和Y特征函数分别为： , 根据独立性和特征函数的基本性质，可得： 这就是尺度参数为θ、形状参数为k1 + k2的伽玛分布的特征函数，因此我们得出结论： 这个结果可以推广到n个独立、具有相同尺度参数的伽玛随机变量： 多元特征函数 如果X是一个多元随机变量，那么它的特征函数定义为： 这里的点表示向量的点积，而向量t位于X的对偶空间内。用更加常见的矩阵表示法，就是： 例子 如果X ~ N (0,) 是一个平均值为零的多元高斯随机变量，那么： 其中 | Σ | 表示正定矩阵?Σ的行列式。 矩阵值随机变量 如果X是一个矩阵值随机变量，那么它的特征函数为： 在这里，Tr(﹒)是迹函数，XT表示T与X的矩阵乘积。由于矩阵XT一定有迹，因此矩阵X必须与矩阵T的转置的大小相同；因此，如果X是m × n矩阵，那么T必须是n × m矩阵。 注意乘法的顺序不重要(XT≠TX)但Tr(XT) = Tr(TX) 矩阵值随机变量的例子包括威沙特分布和矩阵正态分布。 相关概念 相关概念有矩母函数和概率母函数。特征函数对于所有概率分布都存在，但矩母函数不是这样。 特征函数与傅里叶变换有密切的关系：一个概率密度函数p(x)的特征函数是p(x)的连续傅里叶变换的共轭复数（按照通常的惯例）。 其中P(t)表示概率密度函数p(x)的连续傅里叶变换。类似地，从(X(t)可以通过傅里叶逆变