系统辨识前期数学必备知识解析.doc

Conditional probability： 乘法公式: Total probability: Bayes formula:其中为先验概率，为后验概率。 Independence event： 设随机试验的样本空间为，若为定义在样本空间上的实值单值函数，则称为random variable。 Discrete random variable： ①两点分布 ②binomial 分布：when is enough small and is enough big ,then we have ③Poisson 分布： ④hypergeometric distribution: Distribution function : Assume be a random variable and is a real value,then the function was called the probability distribution function of ,shortly,distribution function . Properties: ⑴单调不减； ⑵右连续， As for continuous random variable，we havewhere is probability density function. And is non negative real value function。 ① uniform distribution: ②normal distribution: ③exponential distribution: ④gamma distribution:where 随机变量函数的分布函数 已知的分布，求的分布。 二元随机变量，分布函数 条件分布函数： 或 边缘分布 条件分布 若且则 最值分布 当独立时， 若独立，则有 条件数学期望 Total expectation formula： 方差 协方差 定义：设S是样本空间，P是概率，,如果对任意，是S上的随机变量，则是S上的随机过程。 固定，是随机变量，固定，T的函数而已，称为随机过程的样本函数或样本轨迹，或随机过程的一个实现。取遍，组成状态空间。 对任何，定义 分别称为均值函数、均方值函数、方差函数和标准差函数。 对任何，定义 分别称为自相关函数和自协方差函数。显然有 都是对称二元函数， 马尔科夫链 定义1：设随机过程的状态空间有限或可数，若其具有马尔科夫性，即 对任何有 则称是马尔科夫（Markov chain）链。 若以代表现在的时刻，记 则A表示过去，B代表现在，C代表将来。则上式为 即在知道现在的情况下，将来与过去是独立的。 也等价于对任何和任何有 记为时处于状态的条件下，经过步转移到状态的转移概率。则且集，每行之和为1.若不依赖于，则称是时间齐次的马尔科夫链，称为从到的一步转移概率（one-step transition probability）,可用状态转移图来表示一步转移概率，为马尔科夫链的步转移概率。 步转移概率性质 设是马尔科夫链，称 为的初始概率和绝对概率，并分别称为的初始分布和绝对分布，简记为，称概率向量为时刻的绝对概率向量，而称为初始概率向量。 例：设是具有三个状态0，1，2的齐次马氏链，一步转移概率矩阵如右所示： ，初始分布，试求（1）（2） 解：先求出二步转移概率矩阵： 全概率公式 马尔科夫链的绝对概率具有下列性质： ，全概率公式得。 定理设为马氏链，则对任意和，有 由上述定理知，有限维分布函数由它的初始分布和一步转移概率唯一确定。 若集合非空，则称该集合的最大公约数为状态的周期，若，则称是周期的，若，则称状态为非周期的。 由定义知，如果有周期，则对一切非零的，都有 例，设，转移概率如图：，考虑图中的状态2和3，易见状态2与3有相同的周期，但是，从状态3出发，经两步必定返回到 3；而状态2则不然：当2转移到3后，便再也不能返回到2. 定义：记且表示质点由出发，经步首次到达的概率，称为首达概率。 记，标识质点由出发迟早转移到的概率。 若，则称状态为常返的；否则为非常返的。对于常返态，我们有以下定义：表示由状态再返回到的平均返回时间。若，则称常返态为正常返的；若，则称为零常返的；非周期的正常返状态称为遍历态。 定理 例设,其一步转移概率矩阵如右所示，试对其状态进行分类，确定哪些状态是常返态，并确定其周期。 从图中易见，对一切即又，，所以，因为 。由上知，状态3，4是非常返的，状态1，2是常返态。从而 ，可见常返态1，2是正常返态；而且由于其周期都是1而是非周期的，所以状态1，2是