机器学习应用量化投资：『过拟合』终极解决方案.docxVIP

? ? ? ? ? 机器学习应用量化投资 『过拟合』终极解决方案 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 作者：Marcos López de Prado 编辑：1+1=6 1、前言 近年来，基金经理已开始用基于计算机的统计方法（例如ML）代替或补充经典的统计方法（例如计量经济学）。知名的ML公司包括RenTec，Two Sigma，DE Shaw，TGS，Capital Fund Management等。 经典方法容易过拟合是由于其：依赖训练集的误差估计、假设仅进行了一次试验。在错误使用时，机器学习过拟合的风险比经典方法更高。今天为大家带来Marcos教授的一篇研究。 2、什么是过拟合 ▍误差分解 考虑一个预测结果的函数，使得误差不可预测，其中和最小。 一个统计模型提出一个近似于的函数均方误差（MSE），是以下各项的总和： 偏差平方： 方差： 噪声： 估计量中偏差和方差的组合 ▍偏差-方差权衡 当拟合数据不足时发生偏差 该模型混淆了噪声信号 当过拟合时发生方差 该模型混淆了信号噪声 通常，只能以增加方差为代价来减少偏差。 过拟合会导致模型方差，因为一个集合上的模型过拟合不能很好地泛化到该集合之外。 一个好的统计模型通过寻找偏差和方差之间的最佳平衡来最小化均方误差（MSE） ▍两种误差 1、我们可以将数据集分为两个子集： 训练集： 用于选择特征和拟合