统计建模概念及机器学习发展方向.pdfVIP

统计建模 统计建模是统计学中的核心工具和方法，它在精算理论研究和实务应 用中无处不在，发挥着重要作用。但在实际应用中，对统计建模的误解与 误用并不少见。针对统计建模这一重要主题，本文总结了因果解释和预测 建模的区别，描述了数据建模和算法建模两种文化，为读者普及统计建模 的概念，抛砖引玉，引出现代统计学的统计学习和机器学习发展方向，对 精算研究和精算实务工作有很好的指导意义。 统计建模应该是学术界非常流行的专业术语之一，当然也是精算学中最常 用的术语之一。作为方法和工具，统计建模在很多领域被广泛使用，初看上去 似乎很完美。但统计学是一个偶尔会出现惊奇与悖论的学科（例如，经验表明 在一个有 30 个同学的班上，十有八九会有同一天过生日的同学，这是否很惊 奇？另一个例子是面对同样的数据集，两人各说各话、各有各的结论的辛普森 悖论，这是否很费解？）。能否准确使用统计建模，并准确理解最后得到的结 论，取决于对统计建模的有关概念是否准确理解。 在统计学文献里，有两篇经典论文（Breiman 2001, Shmueli 2010），对 统计建模有系统的讨论。这两篇的角度有所不同，对读者会有多方面的启发。 01 解释性建模与预测性建模 统计建模是通过因果解释和预测方式 在 Shmueli (2010) 中，作者表明： 来发展和检验理论的有力工具。在许多领域，如经济学、心理学、教育学、 环境科学，统计模型几乎完全用于因果解释，而且具有较高解释功效的模型 通常也被认为具有较好的预测功效。 在图像识别、自然语言处理、生物信息学等领域，关注的焦点是经验预测， 而因果解释之间的关系很小也很间接 。然而，在其它研究领域，如流行病学，对 因果解释和经验预测的强调更为混杂 。 消除因果解释和预测两者之间的模糊性，不仅对适当的统计建模至关重要， 更重要的是，对适当的科学使用至关重要。解释和预测都是产生和检验理论的必 要条件，但它们在这方面的作用各不相 同。在统计学中需明确区分，这样才不会 导致对构建合理的解释模型与创建强大的预测模型之间的区别缺乏理解，从而不 会导致解释功效与预测功效之间的混淆 。 解释性建模和预测性建模分别反映 了使用数据和统计模型（或数据算法）方 法进行解释或预测的过程 。建模（modeling）与模型（models）不同，前者突出 所涉及的整个过程，从目标设定、研究设计、数据收集、到科学使用。 （）解释性建模 1 在社会科学领域，统计方法几乎完全用于检验因果理论。给定一个因果理论 模型，把统计模型应用于数据，以检验因果假设 。在这样的模型中，假设由 自变 量 X 会导致因变量 Y 的结果。社会科学中用于检验因果假设的统计模型的类型， 几乎都是应用于观测数据的关联模型，回归模型是最常见的例子。这种做法的理 由在于，理论本身提供了因果关系。此时，解释性建模定义为应用统计模型检验 因果解释。 理论与数据之间的关系在不同领域当然有差异 。虽然在社会科学领域，比较 关注因果关系，但在自然语言处理和生物信息学等领域，对因果关系理论的重视 却要弱得多。 （）预测性建模 2 预测性建模可定义为：将统计模型或数据算法应用于数据，以预测新的或未 来的可能结果的过程 。这个定义还包括时间序列预测，时刻 t 之前的观测值用于 预测时刻 t+k,k0 的可能值 。预测问题可分为回归、分类、聚类等几大类 。预测 性模型可以是产生预测的任何方法，无论是贝叶斯学派或频率学派、参数或非参 数方法、统计模型或数据算法等。 认识到解释性建模和预测性建模之间的区别，以及每种建模所起的不同科学 作用，并体现到统计教育中，对于科学知识的进步至关重要。 在 Shmueli (2010)的附录中，给出了一个比较简单的线性回归的例子，说明 预测功效较好的模型不必是“真实的”模型，其准确含义是指在期望预测误差 （expected prediction error）指标下，在某些情形下，对“真实的”包含两个自变 量的线性回归模型（可看成数据产生机制 ）产生的数据，再来构造线性回归模型， 预测功效更好的模型可能只包含一个自变量 。这可以看成是预测性建模的一个陷 阱。