人工智能技术导论课件 第5章-投毒攻击与防御.pptxVIP

;;投毒攻击概念;投毒攻击概念;投毒攻击概念;;?;2.更具体的双层优化投毒示例

Mei等人[13]将训练集投毒的准则看成是攻击者在努力和风险之间的博弈过程。假设攻击者完全了解机器学习模型所使用的算法，其目标在于找到能够使攻击有效的最小投毒数据集，可定义以下优化问题：;?;投毒攻击基本原理;投毒攻击基本原理;;数据投毒攻击;?;15;16;17;算法5.2详细描述了投影梯度上升求解此双层规划问题的详细步骤，其中包括算法5.3所描述的标签翻转策略。;19;20;21;22;23;24;25;26;27;28;29;30;31;32;33;34;35;36;37;38;;鲁棒学习;?;42;43;44;45;46;47;?;Trim算法[24]的启发，删除了对损失有很大负面影响的训练样本）。ERR和LFR两种防御方法也可以结合起来构成一种联合防御（Union）方法。

假设有100个工作设备，受攻击工作设备占比20%，数据集为MNIST，分类器为线性回归分类器（LR）。随机抽选100个测试用例作为验证数据集，实验验证ERR、LFR和Union的防御效果如表5.1所示。该表的每一行对应一个防御方法。例如，Krum+ERR表示主设备使用ERR来移除潜在的恶意局部模型，并使用Krum作为聚合规则；表的每一列表示攻击者在执行攻击时假定的聚合规则。例如，列Krum对应于拜占庭故障下针对Krum聚合