特征选择与评估指南.docxVIP

特征选择与评估指南

特征选择与评估指南

一、（1）过滤式特征选择方法的深度解析。过滤式特征选择是特征工程中最基础的预处理手段，其核心逻辑是于后续机器学习模型，直接依据特征的固有统计特性完成筛选。在实际应用中，方差筛选法是最直观的切入点，该方法通过计算各特征的方差值判断其信息含量——若某特征在所有样本中的取值几乎无波动，比如某用户属性字段中99%的样本均为“未知”，这类特征的分类或预测贡献极低，可直接剔除。但需注意方差阈值的设定需结合数据场景，高维基因测序数据中，即使方差较小的特征也可能携带关键生物标记信息，此时需配合领域知识调整阈值，而非单纯依赖统计指标。除方差筛选外，单变量相关性分析也是常用手段，分类任务中常采用卡方检验衡量特征与标签的关联程度，比如电商用户购买预测场景下，可通过卡方检验筛选出与“是否下单”强相关的浏览时长、加购次数等特征，剔除与购买行为无关的性别、地域等弱相关特征；回归任务中则更多使用皮尔逊相关系数，分析特征与目标变量的线性关联强度，例如房价预测中，可计算房屋面积、房龄、周边地铁数量等与成交价的相关系数，优先保留相关系数绝对值高于0.3的特征。值得注意的是，过滤式方法虽计算效率高、适合处理大规模数据集，但其局限性在于无法捕捉特征间的交互关系，比如“促销活动”与“节假日”两个特征单独看可能与销量关联较弱，但二者叠加时对销量的提升效应显著，这类交互特征无法通过过滤