随机过程基础案例.docVIP

概率论的基本概念 随机试验的最简单不能再分的每个结果为的样本点，记为或。由所有样本点组成的集合称为的样本空间或必然事件。称不含样本点的空集为不可能事件。如果中的某些子集组成的集类满足下列3个条件： ； 如果，则； 如果，，则。 则称为的事件域。称且仅称中的元素为随机事件，简称为事件。 如果定义于上的实值集合函数满足下列3个条件： 如，则； ； 设，，且当时，，则。 则称为概率测度，简称为概率。称为概率空间。 如果定义于样本空间上单值实函数对任意实数，（简记为）均为事件，即，则称为随机变量。称概率 为的分布函数。分布函数有3个基本性质： 如果，则； ，，其中，； 。 如果随机变量只能取可数多个不同的实数值，则称为离散型随机变量。如果存在非负函数，使得对任意，有，则称为连续型随机变量。称为的密度函数。 随机变量的阶原点矩记为，如果，则它定义为 其中为勒贝格-司蒂阶（Lebesgue-Stieltjes）积分。 的一阶原点矩称为的均值或数学期望。如果的函数的数学期望存在，则有 。 如果存在，则称它为的阶中心距。称的二阶中心距为的方差，记为或，即 。 数学期望的几个重要性质： 设是常数，则； 设是一个随机变量，是常数，则； 设，是两个随机变量，则； 设，是相互独立的随机变量，则。 性质（3）、（4）中可推广到任意有限个随机变量的情况。 方差的几个重要性质： 设是常数，则； 设是一个随机变量，是常数，则有 ； 设，是两个随机变量，则有 特别，若，相互独立，则有 ， 这一性质可以推广到任意有限独立的随机变量之和的情况； 的充要条件是以概率1取常数，即 。 随机变量与的协方差记为，如果它存在，它有下式定义： 而，之间的相关系数由下式定义 ，其中， 如果，则说与不（线性）相关，如果，则说与相关或相依。二维以上随即向量有类似于二维随机向量的诸概念。 特征函数：设为随机变量的分布函数，则称，其中 ，为的特征函数，记为，即 即是的数学期望。 当为离散型随机变量且，，时，则的特征函数为 当为连续型随机变量且有密度函数时，则的特征函数为 特征函数几个性质： ； 设为常数，则； 在实数轴上一致连续； 如果随机变量和相互独立，则； 分布函数由特征函数唯一决定。 （特征函数的反演公式 如果是连续型随机变量，则几乎处处有，其中分别为的分布函数与密度函数。如果是离散型随机变量，且，，则的分布函数为 ，其中 因为在处，函数的导数都存在且都为零。而在处，在普通意义下，的导数不存在，这是因为。然而在工程上，把记为，即，称为Dirac 函数，简称为-函数。它是一种广义函数，有如下性质： 当时，，当时，； ； 对任意连续函数有或者对任意有。） 矩母函数： （如果它有限）， 它包含了任意阶的矩（阶矩）的信息，而且的分布也可由矩母函数唯一确定。如果矩母函数不是有限的，可改用特征函数。 随机变量：一个随机地取实数值的量（其中），称为随机变量，如果对于任意实数，样本点的集合都是一个随机事件。 维随机向量的分布函数为，这里的含义为。其数学期望为。 设随机变量独立且分别具有密度函数，则其和具有卷积密度 ， 如果当时，，则 。 切比雪夫（Chebyshev）不等式 设随机变量具有数学期望，方差，则对于任意正数，不等式 （等价于） 成立。 基本极限定理 如果随机变量序列与随机变量间满足：对任意固定的，恒有 ， 则称随机变量序列依概率收敛到随机变量，记为，其含义为，在忽略一个任意小的概率情形下，可以近似。 常用的大数定理是Khinchine大数定理：设当为独立同分布的随机变量序列，且 ，则。 如果随机变量序列与随机变量之间满足 则称均方收敛到，记为。 由chebyshev不等式可以得到，均方收敛一定能推出依概率收敛。 如果随机变量序列与随机变量之间满足 ， 即“”是一个概率为1的事件，称概率为1地收敛到，记为。概率为1地收敛一定可以推出依概率收敛。 设为连续型随机变量，其分布函数为，如果随机变量序列的分布函数收敛到，则称依分布收敛到，记为。 对于非连续型的随机变量，如果在随机变量的分布函数的所有的连续点上有：随机变量序列的分布函数收敛到，则也称依分布收敛到。 依分布收敛也称弱收敛，记为。 从依概率收敛一定能推出依分布收敛。反之，不然。 常用的中心极限定理为Levy-Lindeberg 中心极限定理： 若随机变量序列为独立同分布，且，则 。 对于维随机变量，也有相应的按分布（即按联合分布）收敛的概念及中心极限定理。 随机过程的基本概念和主要类型 随机过程的定义 定义1. 设为一概率空间，为一实数集，如果对每个，都有定义于上的随机变量，，与之对应，则称依赖于的随机变量族为一个随机过程。 其中称为参数集或指标集。它可以是离散的，如，或；也可以是连续的，如，或。称