工业场景下联邦学习中基于模型诊断的后门防御方法.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２３０５０００２４

jj

工业场景下联邦学习中基于模型诊断的后门防御方法

,,

王迅１许方敏１２赵成林１２刘宏福１

北京邮电大学信息与通信工程学院北京

１１００８７６

北京邮电大学泛网无线通信教育部重点实验室北京

２１００８７６

()

wanxun６８＠but．edu．cn

gp

、,

摘要联邦学习作为一种能够解决数据孤岛问题实现数据资源共享的机器学习方法其特点与工业设备智能化发展的要求

.,.,

相契合因此以联邦学习为代表的人工智能技术在工业互联网中的应用越来越广泛但是针对联邦学习架构的攻击手段也

.,,

在不断更新后门攻击作为攻击手段的代表之一有着隐蔽性和破坏性强的特点而传统的防御方案往往无法在联邦学习架构

.,.

下发挥作用或者对早期攻击防范能力不足因此研究适用于联邦学习架构的后门防御方案具有重大意义文中提出了一种

,,

适用于联邦学习架构的后门诊断方案能够在无数据情况下利用后门模型的形成特点重构后门触发器实现准确识别并移除后

,.,,

门模型从而达到全局模型后门防御的目的此外还提出了一种新的检测机制实现对早期模型的后门检测并在此基础上优

,.

化了模型判决算法通过早退联合判决模式实现了准确率与速度的共同提升

:;;;;

关键词联邦学习后门防御早期后门攻击后门触发器早退联合判决

中图分类号TP１８１

DefenseMethodAainstBackdoorAttackinFederatedLearninforIndustrialScenarios

gg

,,

１１２１２１

,,

WANGXunXUFanminZHAOChenlinandLIUHonfu