AI安全技术与实战 (腾讯安全朱雀实验室(二).docx

Al安全：技术与实战

黑盒推荐系统攻击的统一框架①。为了增强投毒数据的隐蔽性，此框架首先基于对抗生成网络(GenerativeAdversarialNetwork,GAN)为多个受控账户生成虚假评分来初始化“攻击”账户部分的用户—商品评分矩阵，然后用近似梯度的方法不断迭代更新此攻击矩阵，直到模型收敛。如图3.5所示，针对推荐算法的数据投毒攻击，可以看作在原始用户—商品评分矩阵上增加多行受控用户账号的商品评分行为(点击、收藏、加入购物车、购买等行为与评分行为类似)。这部分行为参与推荐算法训练并尝试影响算法后期的表现。

攻击用户通过模拟

攻击用户通过模拟正常用户