信号检测测和估计.pptVIP

Chapter 6 Parameter estimation 成员:董春波马和峰李聘婷  6.1最大似然估计 6.2广义似然比检验 目63优良估计评价标准 6.4贝叶斯估计 6.5 Cramer-Rao不等式 录 6.6多参数估计 6.7最佳线性无偏估计 6.8最小二乘估计 6.9递归最小二乘估计  序言 在第5章中,我们学习了关于检测理论的问题,主要是解决在M个可能 的假设中来确定哪个假设是正确 本章主要介绍假设接受的信号是正确的,但是有些相关联的参数是未 知的,主要的目的就是利用有限的样本参数用最佳的方式估计这些参数。 令Y1,Y2,…,Yk为K个独立同分布的随机变量Y的样本,其密度函数 取决于未知参数6。y1,y2…yk为样本Y1,Y2;…,YK所对应的值, 函数9(Y1,Y2,…,Yk)用来估计参数。表示为 6=8(1,Y2,…YK 0=,2X)称为参数e的估计 通常,估计的参数可以是随机的或非随机的。随机参数的估计被称为 贝叶斯估计,而非随机参数的估计被称为最大似然估计(MLE  6.1最大似然估计 如在前面的函数中所提到的,通常用最大似然(ML)估计来估计非随机参数。令Y1,Y2,…, YK具有样本值y1,y2…yk的随机变量Y的K个观测值,并且这些随机变量是独立同分布的 令J(y表示随机变量Y的条件密度函数。Y的密度函数取决于需要估计的参数,B∈⊙ 记最大似然函数为L(),式6.11 L(=xxe(w,2…,yk)=rey)=1/e(:|)(61 似然函数最大的值G称为的最大似然估计量。为求最大似然估计量,我们利用数学中所学的微 积分。为了计算简单,利用对数函数,由于对数函数mx是关于变量x的递增函数,由第五章可知 最大化L()与hnLG)等价。可以用最大似然函数的对数函数式求解,对参数e求导数可以求的最大 似然估计量。如式6.1.2 In fye( 0)=0 6.12) 不变性:(是的似然函数井且9()是参数--对应的函数,即g=9)4 如果G是参数的最大似然估计量,则g(6是9e)最大似然估计量  6.1最大似然估计 Examle6. the received signal under hypotheses H1 and HO was Hf1:=m+M,k=12,…,K Hn:X=N,k=l,2,…,K (a) Assuming the constant m is not known, obtain the ML estimate m,, of the mean (b)Suppose now that the mean m is known, but the variance a 2 is unknown Obtain the mle of e=0 2 在第五章中,是确定假设中的那个假设是真的。而在本章中,假设H1是真的,参数是未知的需要 用最大似然估计来估计 (在例题中需要确定的参数6对应为,m∈M由于样本参数是独立同分布的,由式611得 函数:  6.1最大似然估计 fyy(y m) =v∠6 等式两边同取对数得 In fr (y/m)=In 利用式6.1.2解似然方程得到似然估计得 ah/mPm25y一m于Amk(1 k=0=100^0(Kk= 得到m=(1k)∑。 Thus, the ML estimator is m=(计k∑y  6.1最大似然估计 b)最大似然估计式为 L 方程两边取对数得 hn(2) K In 2Tt-KIn g 其中对nL(2最大化等价于对2最小化 g()=kho+∑二 由似然函数的不变性得  6.1最大似然估计 dg(2)K Kl:-m) 因此,2的最大似然估计为G2=0K)∑(-m2  6.2广义似然比检验 在例59中,我们解决了复合假设检验问题。参数m在假设H1下虽然已知m是正或负,但是 值是未知。当m仅为正值(仅为负值)时,在MP测试,判决规则为 HI n n+==lt Ho H ln H 由于设置参数m的正负致使实验结果不同,因此,对所有的参数m,UMP测试是不行的 此运用了上节所讲的最大似然估计。也就是说,假设H是真,要用已有的样本来估计。如 果假设是正确的,我们可以用最大似然比检验  6.2广义似然比检验 如果所使用的估计是最大似然估计,则称为广义似然比检验,并且由下式给出 H fre(y104) A2(y) Bo, (y 0. 621) 0和01是在假设H和H1估计的未知参数。 Example 6.2 Consider the problem of Example 5.