数理统计与随机过程参数估计.pptVIP

●用上述方法求参数的极大似然估计有时行不通，这时要用极大似然原理来求。若θ是向量，上述似然方程需用似然方程组代替。第30页，共51页，星期日，2025年，2月5日极大似然估计示意图H：样本集第31页，共51页，星期日，2025年，2月5日极大似然估计示意图D：样本集l(?)=ln(P)第32页，共51页，星期日，2025年，2月5日极大似然估计的对数似然方程人们通常把叫做对数似然函数。第33页，共51页，星期日，2025年，2月5日III.下面举例说明如何求参数的MLE例1:设X1,X2,…,Xn是取自总体X~B(1,p)的一个样本，求参数p的极大似然估计。解：似然函数为第34页，共51页，星期日，2025年，2月5日对数似然函数为：对p求导，并令其等于零，得上式等价于第35页，共51页，星期日，2025年，2月5日解上述方程，得换成换成第36页，共51页，星期日，2025年，2月5日第1页，共51页，星期日，2025年，2月5日第七节参数估计数理统计的任务：●总体分布类型的判断；●总体分布中未知参数的推断 (参数估计与假设检验)。第2页，共51页，星期日，2025年，2月5日参数估计问题的一般提法设总体X的分布函数为F(x,θ)，其中θ为未知参数或参数向量，现从该总体中抽样,得到样本X1,X2,…,Xn.依样本对参数θ做出估计，或估计参数θ的某个已知函数g(θ)。这类问题称为参数估计。参数估计包括：点估计和区间估计。第3页，共51页，星期日，2025年，2月5日称该计算值为u的一个点估计。为估计参数u，需要构造适当的统计量?(X1,X2,…,Xn)，一旦当有了样本，就将样本值代入到该统计量中，算出一个值?作为u的估计，点估计第4页，共51页，星期日，2025年，2月5日寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法…第5页，共51页，星期日，2025年，2月5日其思想是:用同阶、同类的样本矩来估计总体矩。矩估计是基于“替换”思想建立起来的一种参数估计方法。最早由英国统计学家K.皮尔逊提出。§7.1矩估计第6页，共51页，星期日，2025年，2月5日矩估计就是用相应的样本矩去估计总体矩。第7页，共51页，星期日，2025年，2月5日设总体X的分布函数中含k个未知参数步骤一：记总体X的m阶原点矩E(Xm)为am,m=1,2,…,k.am(?1,?2,…,?k),m=1,2,…,k.一般地,am(m=1,2,…,K)是总体分布中参数或参数向量(?1,?2,…,?k)的函数。故,am(m=1,2,…,k)应记成:矩估计步骤第8页，共51页，星期日，2025年，2月5日步骤二：算出样本的m阶原点矩步骤三：令得到关于?1,?2,…,?k的方程组(L≥k)。一般要求方程组(1)中有k个独立方程。第9页，共51页，星期日，2025年，2月5日步骤四：解方程组(1),并记其解为这种参数估计法称为参数的矩估计法，简称矩法。第10页，共51页，星期日，2025年，2月5日解：先求总体的期望例1：设总体X的概率密度为第11页，共51页，星期日，2025年，2月5日由矩法，令样本矩总体矩解得为α的矩估计。第12页，共51页，星期日，2025年，2月5日解:先求总体的均值和2阶原点矩。例2：设X1,X2,…Xn是取自总体X的简单样本,X有概率密度函数第13页，共51页，星期日，2025年，2月5日2阶原点矩第14页，共51页，星期日，2025年，2月5日用样本矩估计总体矩求解得第15页，共51页，星期日，2025年，2月5日列出方程组:例3：设总体X的均值为?，方差为?2，求?和?2的矩估计。解：第16页，共51页，星期日，2025年，2月5