正态模型单参数的贝叶斯估计的渐近性.docVIP

正态模型单参数经验贝叶斯估计 刘荣玄 （井冈山学院 数理学院 江西 吉安 343009） 摘 要：依据经验贝叶斯估计的思想方法，研究在平方损失函数下，正态模型单参数的经验贝叶斯（EB）估计问题．先将理论贝叶斯估计用的边际分布密度函数及该分布密度函数的一阶导数表示出来，再利用过去样本值和当前值，采用密度函数的核估计方法构造相应的函数代替理论贝叶斯估计中的函数，得到参数的经验贝叶斯估计，最后证明了所得到的经验贝叶斯估计是渐近最优的． 关键词：正态模型；参数；经验贝叶斯；核估计；渐近最优 中图分类号：0212．１　　文献标识码：Ａ 一、问题的提出 Bayes统计推断原则：对参数所作任何推断必须基于且只能基于的后验分布，即后验密度函数族，它依赖于的先验分布，而先验分布往往很难确定，当先验分布未知或先验分布中含有未知参数时就无法找到贝叶斯估计，为解决这一问题，1955年R0bbins提出了经验贝叶斯方法．自这种方法提出以来，人们对不同的统计决策问题的经验贝叶斯问题进行了较为广泛、深入地研究．几十年来，针对各种问题的贝叶斯和经验贝叶斯分析，国内外众多专家、学者进行了大量的行之有效的研究，提出了许多开创性的观点、理论和方法．经过这几十年的发展，使经验贝叶斯方法更趋向于和各种统计计算方法相结合，应用EM算法来得到先验分布的极大似然估计，用Gibbs抽样来计算后验均值等，这些研究发展更加显示出经验贝叶斯方法在计算实现中的优势． 由于正态分布广泛地存在于客观现实生活中，测量误差、产品质量指标、各种实验参数、新工艺性能参数等几乎都服从或近似服从正态分布，因此正态分布在现实生活中有着重要的实际意义．本文在平方损失函数下，讨论正态模型单参数的经验贝叶斯估计及它的渐近性． 一、贝叶斯估计 设正态模型总体的概率密度函数为 　　　　　　　　　（！） 其中：为已知常数，为参数空间．的先验分布、概率密度函数均未知，但属于先验分布族． 设平方损失函数为，为决策函数，，为决策函数空间，则它的理论贝叶斯估计为 ，　　　　　　　　　　　　　　（２） 其中：为随机变量的后验分布．，为随机变量的的边际分布， ． （3） 这是因为：的贝叶斯风险为 ． 因为在中达到最小，几乎处处等价于在中达到最小，而 ． 对上式关于求导数，并令其为得正规方程，解此方程得．于是式(2)成立. 由于先验分布密度函数的不确定性，因此式（２）在实际应用中存在一定困难．但在客观现实中往往对某随机变量的一些历史资料有所了解，本文将利用历史资料探讨参数的经验贝叶斯（ＥＢ）估计． 三、经验贝叶斯估计 引理１　对正态模型的分布函数密度式（１），其在平方损失函数下的贝叶斯估计为 　　，　　　　　　　　　　　　　　　　　 （4）　　　　 式中为随机变量的边际密度函数，为的导数． 证明　， 上式两边同时对求导得 　　　　 于是有 　　　　 而　　 　　　　　＝． 至此，证明了式（4）成立． 在经验贝叶斯估计中通常假设（过去值）和（当前值）是独立的随机变量对，在给定的条件下，有条件概率密度，和有共同的边际密度，如式（3）所示．为历史观测值，为当前观测值．和有相同的先验分布，但和不可观测．根据已观测到的数据采用密度函数的核估计方法来构造和估计式． 设为B0rel可测函数，满足下例条件： 　定义和的核估计　 　　　　　　　（５）　　（　）， 将估计式（５）代入式（4），于是得到的经验贝叶斯估计为 　　． 四、经验估计的渐近性 引理２　在平方损失函数下，理论贝叶斯估计与经验贝叶斯估计的贝叶斯风险分别为，则它们的全面贝叶斯风险的差为 　　　　　．　　　　　　　（６） 上式中表示对的联合分布求期望，表示对的边际分布求期望，表示对的联合分布求期望． 证明　 ． 于是式（６）成立． 引理３　由式（５）给出的和，则当时有 ；（７）　．（８） 式中为有限常数． 证明　式（7）证明，根据不等式和Jensen不等式得到 　　 ． ． 由泰勒公式将函数在处展开得 　 式中，由函数的性质可得 ， ． 因为，，将在处 展开成泰勒级数，于是的阶导数可表示为： ， 其中为的阶多项式，所以　，为自然数． ＋． 式中令，为有限常数．至此式（７）成立，同理可证式（８）成立． 定理 若参数的先验分布且满足　， 则当时，有　． 证明　由引理２知 ． 再由引理３知　 其中为有限常数． 于是有　． 至此证明了经验贝叶斯估计的渐近最优性． 参　　考　　文　　献 陈希孺．高等数理统计学［Ｍ］．合肥：中国科学技术大学