重采样方法与机学器习综述.docVIP

重采样方法与机器学习综述 毕 华 梁洪力 王 珏 （中国科学院自动化研究所 复杂系统与智能科学重点实验室 北京 100190） 摘要 Boosting算法试图用弱学习器的线性组合逼近复杂的自然模型，以其优秀的可解释性和预测能力，得到计算机界的高度关注。但只是将Boosting看作是一种特定损失下的优化问题，其统计学本质未曾得到充分的关注。本文追根溯源，提出从统计学看待boosting方法：在统计学框架下，Boosting算法仅仅是重采样方法的一个有趣的特例。本文希望改变计算机科学家只重视算法性能忽略数据性质的现状，以期找到更适合解决“高维海量不可控数据”问题的方法。 关键词 重采样；自助法；Boosting；机器学习 中图法分类号 TP18 Resampling Methods and Machine Learning: A Survey BI Hua LIANG Hong-Li WANG Jue (Key Laboratory of Complex Systems and Intelligence Science, Institute of Automation，Chinese Academy of Sciences，Beijing 100190) Abstract In boosting algorithm complex natural model is a