讨论班-单参数模型解析.docVIP

3.4 贝叶斯稳健性的说明 实际中获得的参数先验信息是不完全的，因此，在某种意义上不能定义出一个先验密度。所以，也许有很多的不同的先验分布能和给定的先验信息相符。比如，如果参数θ先验信息是，Me=30，Q0.8=50，显然有很多满足这两个分位数条件的先验分布可以选择。在存在多种不同先验分的情况下，从后验分布中做出的推断能够不依赖于先验分布的具体形式才是可取的。贝叶斯分析能被称为具有稳健性，体现在对先验分布做出不同的选择时，后验推断不敏感。 例子：为了说明这个思想，假设要估计Joe的IQ真实值θ，先验信息是，Me=100，90%的置信区间[80,120] 参数θ的先验分布是正态分布 通过normal.select这个函数可以计算出，与先验信息相符的正态分布的均值和标准差 其中，表示的是标准正态分布下，概率为quantile1,quantile2对应的x的值。 将先验信息p=0.5，x=100和p=0.95，x=120代入normal.select函数，求得与之相对应的正态分布的均值由此可以确定θ先验分布。 参数的先验分布 似然函数 后验分布,其中， 三次观察均值所得到的后验分布之均值和标准差如下： 补充内容，正态分布方差已知，均值未知的贝叶斯后验分布，参见茆诗松《贝叶斯统计》 参数θ的先验分布是t分布 t分布有三个参数，位置参数，尺度参数，自由度，通过先验信息Me=100，Q0.95=120，可让t分布的位置参数，自由度，用Q0.95=120求得尺度参数 由此可以得到参数先验分布中心化具体密度函数 似然函数 后验分布，由于先验分布的密度函数的具体形式比较复杂，通过将后验分布的所有可能值划分为有限的区间，计算出每个区间的概率，用离散分布来近似连续的后验分布。 m是后验分布的均值E(x)=x*p，s是后验分布的标准差var(x)=E(x2)-[E(x)]2得到的结果如下： 结论： 1）对比参数先验分布不同的两个后验分布的推断结果，可以得出：当观测值与先验值差别很大时，先验分布对后验分布的影响就会更大。 2）将这一极端情况做一个详细的对比，可知，使用正态先验，后验分布是先验信息和观测值的折中，即便观测值与先验信息是冲突的；而使用t先验，由于样本信息（似然值）在先验分布的平尾部分，后验分布更接近于似然函数。 通过这个例子，当观测信息与先验信息是一致时，无论是选择t分布或是正态分布作为参数的先验分布，方差已知，均值未知的贝叶斯推断是稳健的。但是，如果观测到极端值时，贝叶斯推断就不具有稳健性。 3.5 混合共轭先验 在二项分布、泊松分布、正态分布的样本模型中，我们已经对共轭先验有一个说明，即后验分布与先验分布的形式是相同的。共轭先验的一种直接的拓展形式就是与离散分布相混合。这里用beta分布和离散分布来说明混合共轭先验。 假设已经知道一枚硬币是不均匀的，但是不知道偏向哪一面。P表示正面朝上的概率，p可能在0.3附近，也可能在0.7附近，因此，先验概率可以用以下这个模型表示： ，，得到的混合先验分布的图如下： 如果后验分布也采用这样的组合形式，就可以构成一个混合共轭先验的例子。 假设总共投掷了n次硬币，有s次是正面朝上，f=n-s是反面朝上。这样得到的后验分布就是，，得到表示先验预测，抛掷掷了n次硬币，有s次是正面朝上的概率。 在R里面的binomial.beta.mix这个函数可以计算出（解释函数的意思），混合的后验分布如下： 做出图形 3.6关于硬币是否均匀的贝叶斯检验 混合先验在检验单参数的两种假设时是一种有效的方法，假设你正在评估一枚硬币是否均匀。观察到正面朝上的次数，对于检验假设H，p=0.5，如果y是可观测的，一个很自然的做法是通过计算p值，来判断是否拒绝这个假设，如果p值很小，拒绝原假设认为硬币是不均匀的。假设总共抛掷20次，5次正面朝上，用R计算出来的p=0.0420.05拒绝原假设，认为硬币是不均匀的。 从贝叶斯角度来看，这是由两个模型构成的，一个是p=0.5，另一个是p≠0.5，这两个模型是无法区分的，因此赋予每个模型的概率都是0.5，且p的先验分布是 因此，混合先验可以写成以下形式 通过观测到的样本信息，对先验分布做一个修正，参数p的后验分布，混合后验分布如下： p(y|.5)表示的是，当p=0.5时，二项分布y的概率。（解释lambda） LearnBayes程序包中的pbetat函数就是用来检验二项分布的。通过计算可以得到lambda=0.28，比用概率角度计算的p值大，从贝叶斯角度，p=0.5的概率是0.280.05，不拒绝原假设。 还有一个问题是，先验分布中的选择是否会对结果有影响呢，为此写了一个prob.fair函数来证明。 得到的图形如下，横轴是loga，纵轴是相应的lambda的值，图形表明