特征重要性的Shapley值解释.docxVIP

特征重要性的Shapley值解释

一、引言：特征重要性解释是可信机器学习的核心环节

（一）机器学习模型可解释性的现实需求

随着机器学习技术在金融、医疗、教育等关键领域的广泛应用，模型的决策逻辑不再是“黑箱”，而是需要被清晰解释的核心要素。一方面，业务场景中的决策者需要理解模型的判断依据，比如银行风控人员需要知道贷款审批拒绝的具体原因，医生需要明白疾病预测模型依赖的关键临床指标；另一方面，监管机构也对AI系统的可解释性提出明确要求，比如欧盟的《人工智能法案》将高风险AI系统的可解释性列为合规前提（欧盟委员会，2021）。特征重要性作为模型可解释性的核心内容，能够揭示输入特征与输出预测之间的关联强度，是连接模型技术与业务应用的关键桥梁（Gunning，2017）。

（二）传统特征重要性方法的局限性

在Shapley值被引入机器学习领域之前，业界常用的特征重要性方法主要包括权重系数法、增益法和排列重要性法。权重系数法以线性回归模型的系数为代表，但其仅能反映特征与预测值的线性关联，且在特征存在共线性时，系数会出现不稳定甚至失真的情况，无法准确衡量真实的特征重要性（James等，2013）。增益法以决策树模型的信息增益或基尼系数增益为基础，这类方法容易偏向取值类别较多的特征，即使该特征对模型预测的实际贡献有限（Breiman等，1984）。排列重要性法通过随机打乱某特征的取值并观察模型性能的