噪声标签回归的泛化误差估计及过滤算法.pdfVIP

小型微型计算机系统2025年1月第1期

DOI:10.20009/j.cnki.21-1106/TP.2023-0422

JournalofChineseComputerSystemsVol.46No.12025

噪声标签回归的泛化误差估计及过滤算法

姜高霞,李政莹,王文剑1,2

1（山西大学计算机与信息技术学院，太原030006）

2（山西大学计算智能与中文信息处理教育部重点实验室，太原030006）

E-mailwjwang@sxu.edu.cn

摘要：当回归数据中存在数值型标签噪声时，传统泛化误差估计方法不再适用，回归模型的泛化性能缺乏保障本文提出一

种面向标签噪声的回归模型泛化误差估计方法，并设计了自适应高斯核噪声估计与样本召回过滤（adaptiveGaussiankernel

noiseestimatorandsamplerecallfiltering,AGKSRF)算法.在所提Craven-Wahba(CW)泛化误差估计的基础上,提出一种CW样

本选择框架.基于最大后验估计思想和自适应近邻方法，提出标签噪声的自适应高斯核（adaptiveGaussiankernel,AGK)估计方

法.结合所提框架，AGKSRF首先过滤大噪声样本，同时考虑到初次过滤时可能有部分干净样本被误删，AGKSRF根据模型在

过滤样本上的误差对样本进行召回再过滤.标准数据集上的实验结果表明，AGKSRF降低模型误差的能力提升了6~51个百分

点.AGKSRF还可以识别年龄估计数据上的错误标签.因此，AGKSRF算法可以有效提升数据质量

关键词：噪声标签回归；泛化误差估计；自适应高斯核估计；样本召回过滤

中图分类号：TP181文献标识码：A文章编号：1000-1220(2025)01-0072-09

GeneralizationErrorEstimationandFilteringAlgorithmforRegressionwithNoisyLabels

JIANGGaoxia,LIZhengying,WANGWenjian-?

1(SchoolofComputerandInformationTechnology,ShanxiUniversity,Taiyuan030006,China)

2(KeyLaboratoryofComputationalIntelligenceandChineseInformationProcessing,ShanxiUniversity,MinistryofEducationTaiyuan030006,China)

Abstract:Whenthereexistsnumericallabelnoiseinregression,traditionalgeneralizationerrorestimationmethodsbecomeinapplica-

ble.Anditcouldrarelyguaranteethegeneralizationperformanceoftheregressionmodel.Inthispaper,ageneralizationerrorestima-

tionmethodisproposedfortheregressionmodelonlabelnoise,followingwhichanadaptiveGaussiankernelnoiseestimatorandsam-

plerecallfiltering(AGKSRF)algorithmisdesigned.BasedontheproposedCraven-Wahba(CW)generalizationerrorestimation,aCW

sampleselectionframeworkisproposed.AnadaptiveGaussiankernel(AGK)estimatoroflabelnoi