非参数回归的加性模型（AM）.docxVIP

非参数回归的加性模型（AM）

一、引言：回归建模的权衡困境与加性模型的诞生

回归分析是统计学中刻画变量间关联关系的核心工具，自线性回归方法诞生以来，统计学家对回归模型的探索始终围绕两组核心权衡展开：一组是估计的偏差与方差的权衡，另一组是模型的灵活性与可解释性的权衡。早期的参数回归模型以线性回归为代表，对变量间的关系形式有明确的预先设定，比如假设每个解释变量对响应变量的效应是固定斜率的线性影响，整个模型仅需要估计少量未知参数，具备估计稳定、计算简便、解释清晰的优势，但一旦真实的变量关系不符合预先设定的参数形式，估计结果就会出现系统性偏差，甚至推导出完全错误的结论。

为了克服参数模型的假设刚性问题，学界逐步发展出完全非参数的回归方法，这类方法不对回归函数的整体形式做任何预先限定，完全从数据出发灵活捕捉变量间的复杂关系，理论上可以无限逼近任意形式的真实关联。但研究者很快发现，完全非参数方法在解释变量数量稍多的场景下就会遭遇无法突破的“维数祸根”障碍，根本无法支撑中等及以上维度的数据分析。正是在“参数模型太僵硬、纯非参数模型太脆弱”的两难困境中，非参数回归的加性模型作为一种折中且务实的建模框架被提出，经过众多学者的系统完善，成为非参数回归领域应用最广泛、理论最成熟的模型类之一（HastieTibshirani，1986）。加性模型没有像纯非参数模型那样追求绝对的无假设灵活性，而是通过施