数据分析中的统计检验、参数估计与置信区间-Indico@IHEP.ppt

6/28/2008 BESIII 暑期讲习班 参数估计与拟合 陈少敏 清华大学 工程物理系 粒子物理实验研究的目的 参数估计 什么是估计量？ 如何评判一个参数估计量的好坏？ 参数估计与概率大小的关系 似然函数 最大似然估计量 最大似然估计量的唯一性 指数概率密度函数的参数估计 指数型最大似然估计是无偏的 估计量的方差：数值方法 估计量的方差：蒙特卡罗方法 估计量的方差： RCF边界法 指数型函数估计量的 RCF边界 RCF边界与HESSE矩阵 例子：估计实验所需的统计量 例子：实验所需的统计量（续） 估计量的方差: 图解法 最小二乘法与最大似然法 最小二乘估计量的定义 两种情况下的最小二乘参数估计 线性情况的最小二乘法估计 非线性情况的最小二乘法估计 最小二乘估计量的方差 最小二乘估计量的方差(续) 约束情况下的最小二乘法拟合 约束情况下的最小二乘法(续一) 约束情况下的最小二乘法(续二) 约束情况下的最小二乘法(续三) 例子：粒子动量分辨的改进 例子：粒子动量分辨的改进（续） 检验最小二乘法的拟合优度 最小二乘法处理分区数据 最小二乘法的归一化常数问题 矩的一般表达式 线性独立函数的方差矩阵 线性独立函数均值的方差矩阵 参数估计值的方差矩阵 矩方法估计参数 最大似然法、最小二乘法和矩 举例：加速器中微子振荡实验 总结 如果 yi 是一多维高斯变量，协方差矩阵为V ，满足 那么其对数似然函数为 也就是说，我们应求下式的最小值 它的最小值定义了最小二乘法的估计量 ? ，即使 yi 不是高斯变量，该定义依然适用。 对参数的估计可以根据理论预期值中所含参数的具体特征而采用不同的参数估计处理方法 线性情况： 非线性情况： 这里 aj(x) 是 x 的任意线性独立函数。 用矩阵来表示时，令 Aij=aj(xi)，有 对? i 求偏微分，并令结果等于零，有 解方程得到最小二乘法的估计量 如果采用牛顿法求上式的最小值，第 n+1次迭代公式可采用 等效地，可以利用下式来计算 如果 yi是高斯变量时， 其与RCF边界一致。 实际问题中会遇到测量量本身要受到某些物理定律的约束。 求解可采用拉格朗日乘子法，对每一个约束引入修正因子?i， 例如，能动量守恒，衰变顶点约束等等。对一个事例有m 个观测量，无参数的最小二乘问题变为 为了找到最小值，可以通过求微商方法 而 n+1 次迭代后 设经过 n 次迭代以后，找到一组解 ，得到函数 的值。在 上对 ?(n) 进行线性展开，并略 去高阶项，得到 两式联立消掉 项，可以得到 因此，可以得到第 n+1 次迭代的 l 个拉格朗日乘子取值 以及第 n+1 次迭代的 m 个测量量的预期值 当经过 n+1 次迭代以后，满足下式时即可终止 实验中，为了提高测量精度而采用的四动量守恒约束拟合(4-C fit)，顶点或质量约束拟合(1-C fit)，大都采用该方式来进行。 此时的 ?2 值应满足自由度为（m - l）的 ?2 分布。 例如，实验观测衰变 通常情况下，探测器对光子探测的能量分辨率较差，从而 影响到 ?0 粒子动量重建的精度。 已知： r 因此，每一个衰变事例的观测量期待值为 对应于每个观测量有误差估计，而且已知相互间不相关。则 无参数的最小二乘问题可写为为 利用一个约束条件下， 改进的光子动量观测 值进行 ????? 重建研 究，从 ? 的不变质量 谱可以看出光子的动 量得到了明显的改进。 那么?2min 服从 N-m自由度的最小二乘概率密度函数分布。 据此来计算P-值 如在五个数据点的双参数拟合 也就是说，重复实验多次，有 26.3% 的值将大于 ?2min 。 进行 1000 次 蒙特卡罗实验 最小二乘法拟合使下式有最小值 把 yi 看做泊松分布的随机变量，方差为 改进的最小二乘法虽方便了计算， 但对于有些区间频数太少时?2min 不再服从最小二乘的概率密度分布 函数(或无定义)。 例如 n = 400次，N = 20个区间 解决的方法是从数据中直接得到 n ，或者最好是用最大似然法定n。 假设对随机变量 x 有n 次测量 x1,…,xn，服从概率密度函数 分布 f (x;? ) 。其中有 m 个未知参数 ?1,…,?m。如果可以构 造 m 个线性独立函数 ai(x), i=1,…,m，其均值可写为 为了确定参数，上述独立函数必须进行适当选择使得含参数 的函数 ei(? ) 可以确定。 此时，函数 ei(? ) 可以通过计算无偏的样本平均值来估计 因此，参数值可以通过求解 m 个 ei(? ) 方程组来确定。 矩的一般表达式 参数 ?1,…,?m 估计值的协方差矩阵的无偏估计 它可以与样本平均值的协方差矩阵相