上节课内容总结1457最全版.pptVIP

参数bootstrap Vs. 非参数的bootstrap F的先验 参数bootstrap中利用了分布F的先验，表现为一个参数模型，因此多了一个步骤，估计F模型中的参数。当先验模型正确时，参数bootstrap能得到更好的结果 而非参数bootstrap不利用F的先验知识就能得到正确的标准误差（在大多数情况下） 参数bootstrap能得到与Delta方法（计算变量的函数的方差）相当的结果，但更简单 重采样 参数bootstrap中，通过从分布 中产生随机数，得到bootstrap样本，得到的样本通常与原始样本不重合 非参数bootstrap中，通过对原始样本进行有放回采样实现对 的采样，每个bootstrap样本都是原始样本集合的一部分 二者相同的是模拟的思想 * KUHKUK Bootstrap（参数/非参数）不适合的场合 小样本（n太小） 原始样本不能很好地代表总体分布 Bootstrap只能覆盖原始样本的一部分，带来更大的偏差 结构间有关联 如时间/空间序列信号 因为bootstrap假设个样本间独立 脏数据 奇异点(outliers)给估计带来了变化 * KUHKUK 计算bootstrap样本 重复B次， 1. 随机选择整数 ，每个整数的取值范围为[1, n]，选择每个[1, n]之间的整数的概率相等，均为 2. 计算bootstrap样本为： Web上有matlab代码： BOOTSTRAP MATLAB TOOLBOX, by Abdelhak M. Zoubir and D. Robert Iskander, .au/downloads/bootstrap_ toolbox.html Matlab函数：bootstrp * KUHKUK Bootstrap样本 在一次bootstrap采样中，某些原始样本可能没被采到，另外一些样本可能被采样多次 在一个bootstrap样本集中不包含某个原始样本 的概率为 一个bootstrap样本集包含了大约原始样本集的1-0.368 = 0.632，另外0.368的样本没有包括 * KUHKUK 模拟 假设我们从 的分布 中抽取IID样本 ，当 时，根据大数定律， 也就是说，如果我们从 中抽取大量样本，我们可以用样本均值 来近似 当样本数目B足够大时，样本均值 与期望 之间的差别可以忽略不计 * KUHKUK 模拟 更一般地，对任意均值有限的函数h，当 有 则当 时，有 用模拟样本的方差来近似方差 * KUHKUK 模拟 怎样得到 的分布？ 已知的只有X，但是我们可以讨论X的分布F 如果我们可以从分布F中得到样本 ，我们可以计算 怎样得到F？用 代替（嵌入式估计量） 怎样从 中采样？ 因为 对每个数据点 的质量都为1/n 所以从 中抽取一个样本等价于从原始数据随机抽取一个样本 也就是说：为了模拟 ，可以通过有放回地随机抽取n个样本（bootstrap 样本）来实现 * KUHKUK Bootstrap：一个重采样过程 重采样： 通过从原始数据 进行有放回采样n个数据，得到bootstrap样本 模拟： 为了估计我们感兴趣的统计量 的方差/中值/均值，我们用 bootstrap样本对应的统计量（bootstrap复制） 近似，其中 * KUHKUK 例：中值 X = (3.12, 0, 1.57, 19.67, 0.22, 2.20) Mean=4.46 X1=(1.57,0.22,19.67, 0,0,2.2,3.12) Mean=4.13 X2=(0, 2.20, 2.20, 2.20, 19.67, 1.57) Mean=4.64 X3=(0.22, 3.12,1.57, 3.12, 2.20, 0.22) Mean=1.74 * KUHKUK 方差： 其中 注意：F为数据X的分布，G为统计量T的分布 通过两步实现： 第一步：用