原创力文档摘要
摘要
随着深度神经网络被广泛应用于人脸识别，自动驾驶，医学图像分析等对安全性和保
密性有较高要求的领域，其安全性问题也备受关注。深度神经网络的训练需要大量的数据，
这些数据大多来自于数据市场或者生成模型的生成，模型的复杂性又使得从第三方平台获
取预训练模型变得普遍，这些环节为后门攻击提供了可乘之机。尤其在训练数据不足时，
研究者常直接使用生成模型合成数据，却没有考虑其安全隐患，即生成模型上采样操作会
引入高频伪影，可能被攻击
摘要
摘要
随着深度神经网络被广泛应用于人脸识别，自动驾驶，医学图像分析等对安全性和保
密性有较高要求的领域，其安全性问题也备受关注。深度神经网络的训练需要大量的数据，
这些数据大多来自于数据市场或者生成模型的生成，模型的复杂性又使得从第三方平台获
取预训练模型变得普遍，这些环节为后门攻击提供了可乘之机。尤其在训练数据不足时，
研究者常直接使用生成模型合成数据，却没有考虑其安全隐患，即生成模型上采样操作会
引入高频伪影，可能被攻击
文档评论（0）