概率数理统计.pptVIP

* * 概率统计与随机过程 宋 晖 – 2012年秋 第一章 概率统计基础 抽样估计 常用统计量 常用统计分布 抽样分布 统计推断从样本中推断总体 主要目标：归纳和预测 统计量的概率分布称为抽样分布 总体大小 样本容量 选择样本的方法 例：依据 的抽样分布对参数 做出推断 重要统计量 统计量：由随机变量组成的一随机样本的函数，不含任何未知参数 样本均值，描述样本中心趋势 样本方差，描述样本的波动性 n阶原点矩 均值的抽样分布 样本容量为n的 的抽样分布 实验不断重复（样本容量为n），产生多次的值时的一个分布 描述样本在总体均值μ附近的平均变化 n个随机样本来自~N(μ,σ2)总体 ~ N(μ,σ2/n) S2的抽样分布 S2统计量 引入： 分布 定义: X1, X2,…,Xn i.i.d, ~ N(0,1), 随机变量 所服从的分布为自由度为n的卡方分布，也就是Γ(n/2, ?)分布，其密度函数为： n=1 n=4 n=10 n=15 卡方分布特性 自由度为n的卡方分布：μ = n, σ2=2n 卡方分布的可加性 推论： X1, X2,…,Xn i.i.d, ~ N(μ, σ2), 随机变量 服从自由度为n的卡方分布。 Fisher(费歇尔)定理 如果S2是{xi} ~ N(μ, σ2)的样本方差统计量，且 与 S2 相互独立 则随机变量 样本 ~ N(μ, σ2/n) ，实际中没有已知的σ值，只能通过S进行估计 考察统计量： 引入t分布 t分布（学生氏分布） 定义： X~ N(0,1), Y ~Х2(n)，且X与Y相互独立，称随机变量 所服从的分布为自由度为n的t分布，t ~ t(n) 密度函数为： t分布特性 n=1时，E(t)不存在 n≥2时，E(t) =0 n→∞时（n ≥ 45），t分布趋向于标准正态分布 n=1 n=5 n=60 n=10 结论： X1, X2,…,Xn i.i.d, ~ N(μ, σ2), 随机变量 为符合自由度为n-1的t分布。 t分布被大量用于总体均值的推断、样本比较等问题上 F分布（方差比分布） 定义： X ~Х2(n)， Y ~Х2(m)，且X与Y相互独立，称随机变量 所服从的分布为自由度为(n,m)的F分布， F ~ F(n,m) F分布的密度函数 (1,10) (5,10) (10,10) (60,10) 用于比较多种类型的样本方差问题，如：比较样本是否来源于不同总体 分布的分位数 在统计推断时，需要知道给定概率下，对应随机变量的取值。 定义：设X是随机变量，0α1，若实数Z α 满足 则称Zα为X的α分位点。 α αp α分位点可以由分布表查得 第二章 样本估计 抽样估计 点估计 极大似然估计 最小二乘法 区间估计 统计推断 主要方法 经典方法和贝叶斯方法 估计 例1：通过随机抽样的100名投票者的意见来估计支持某位候选人的投票者的比例 例2：通过随机抽样，估计整批产品的次品率 假设检验 例：假设A的支持率比B高，通过适当的检验后，验证推翻这个假设 点估计方法 要求 估计的“误差”应较小 当 n 较大时，估计的“精度”应较高 常用的点估计： 矩估计法 极大似然估计法 最小二乘估计法 极大似然估计 基本思想：一个随机试验有很多可能结果，如果在一次试验中，某结果发生了，则认为该结果(事件)发生的可能性最大。 Fisher极大似然估计 例：一老战士与一新同学一同进行射击训练，每人打了一枪，结果有一枪中靶. 试问这一枪是谁打中的？ 分析：按照 Fisher 的极大似然思想，应该认为是老战士打中的较合理。 定义：设 是总体 的样本, 令 若存在统计量 使得： 称 为似然函数 则称 为 的极大似然估计, 简记为MLE Maximum Likelihood Estimation 估计量的评选标准 均值估计：选择样本均值还是中位数？ 选择标准： 无偏性标准 、有效性标准 定义：若估计量 的数学期望 存在,且 有 则称 为θ 的无偏估计，否则称为有偏估计。 称： 为估计量 的偏差 样本 {xi} ~ N(μ, σ2) 样本均值 ，样本方差 极大似然估计 μML = , 可以证明： ，S2