充分统计量的证明方法及几个重要定理.docVIP

充分统计量的证明方法及几个重要定理 刘冬喜 ( 湖南娄底职业技术学院计算机系 湖南娄底 417000） 摘要:本文讨论了充分统计量的充分性,给出了统计量的充分性的两种主要证明方法,介绍了几个重要的定理,它们可以用来间接地证明统计量的充分性. 关键词:统计量;充分统计量;因子分解定理;统计结构;Fisher信息 Proof method of Sufficient statistic and several important theorems Liu Dong-xi （Loudi Vocational and Technical College，Loudi Hunan 417000） Abstract: In this paper，we discuss the sufficient statistic sufficiency and the two main proof methods to statistic sufficiency. Several important theorems are introduced and they may be used to prove the sufficiency of statistic indirectly Key words: Statistic, sufficient statistic, factoring theorem, statistical structure, Fisher information 一、统计量与充分统计量 统计量是样本的函数，定义在可测空间(X, ,B)上的统计量T=T(x),实际上是对样本X=(X1,…,Xn)进行某种加工和提炼的结果，把样本中所含的总体的相关信息集中起来，针对不同问题构造出样本的适当函数，这种加工从本质上体现了统计量压缩数据的功能.从直观上看，样本的不同的观察值，统计量T可能有相同的值，如：样本均值和样本方差不会随样本观察的排列顺序的改变而改变，这体现了统计量的“压缩数据”的功能.从理论上看，若T是在（T,C）上取值的可测映照，那么对代数C中任一元素c在B中都有一个原像 T﹣1(C)={x：T（x）∈C}∈B .把所有原像的全体记为T－1(C)={T－1(C):C∈C} B。 容易验证：T－1(C)是代数，并且是B的子代数.这表明,有了统计量T之后,原先样本所涉及的可测空间(X, ,B)换为另一个新的可测空间(X, , T－1(C)),差别在于代数缩小了，涉及到的事件减少了.只有在T是一对一映照时代数才不能被压缩,统计中应用的统计量T=T(x)常常是多对一映照, 代数缩小了几乎是肯定的。所以一般说来，任一个统计量都有压缩数据的功能,只是程度不同罢了。但是压缩不能过分,否则会抹杀了样本之间的重要差别,造成信息损失。在统计中把不损失信息的统计量称为充分统计量。[1] 充分统计量是建立在统计量基础之上的,要求统计量的充分性。统计量的充分性是统计中最重要的基本概念之一.它是R.A.Fisher于1922年提出的,但充分性的严格叙述和证明是Halmos和Savage在1949年完成的.“不损失信息”的统计量就是充分统计量，这是一种模糊的说法，下面给出“不损失信息”的明确的数学涵义。 设总体X服从某个分布Pθ(x),为了对参数θ作统计推断,需要从该总体中抽取一个样本X=(X1,…,Xn),样本X中含有θ的信息,显然,对样本X加工不可能增加信息,不减少θ的信息就是最好的了.由样本X可算出统计量T，假如能由统计量T的值恢复样本，那么这种统计量就不会损失有关θ的信息。要做到这一点，关键要在给定T=t下，样本X的条件分布不依赖于θ，即有Pθ（X=x｜T=t）=P（X=x｜T=t）。 由以上分析知，在对样本的加工过程中，一个统计量“不损失信息”的数学描述是“在T取任一个值时，样本的条件分布不依赖于未知参数”，但允许T的一个零测集有例外，由此可给出充分统计量的一般定义。 定义1[1]:设(X, ,B,{ Pθ∈}) 是一个统计结构,又设T=T(x)是(X, ,B)到(T,L )的一个统计量, PθT是T的诱导分布,假如在PθT的零测集外,T取任一个值t时,样本X=(X1,…,Xn)的条件分布都不依赖于θ,即对任意的θ∈和B∈B,有Pθ（B｜t）= P（B｜t）, a.s.PθT 则称T为该分布族(或参数θ)的充分统计量. 二、充分统计量的证明方法 怎样去验证一个统计量的充分性呢? 主要有两种方法:一是定义法;二是因子分解法. 上面给出了充分统计量的一般定义,注意当样本空间X,为欧氏空