揭开被遗忘权背景下预测不确定性漏洞的研究方向.pdfVIP

揭开被遗忘权背景下预测不确定性漏洞的研

究方向

WeiQian∗ChenxuZhao∗YangyiLi

IowaStateUniversityIowaStateUniversityIowaStateUniversity

Ames,Iowa,USAAmes,Iowa,USAAmes,Iowa,USA

wqi@cxzhao@liyangyi@

WenqianYeMengdiHuai

UniversityofVirginiaIowaStateUniversity

本Charlottesville,Virginia,USAAmes,Iowa,USA

译wenqian@mdhuai@

中摘要CCSConcepts

1

v目前，已经提出了各种不确定性量化方法来为深度学•Computingmethodologies→Machinelearning;•

8习模型的标签预测提供确定性和概率估计。同时，随Securityandprivacy;

5

4着被遗忘权需求的增长，机器取消学习作为从预训练

7

0模型中移除请求敏感数据影响的一种手段得到了广泛Keywords

.

8研究，而无需从头开始重新训练模型。然而，关于这些不确定性量化；机器忘却；恶意攻击；安全与隐私

0

5生成的预测不确定性的专门恶意取消学习攻击的脆弱

2性尚未得到探索。为了解决这一问题，我们首次提出ACMReferenceFormat:

:WeiQian,ChenxuZhao,YangyiLi,WenqianYe,andMengdiHuai.

v了一类针对预测不确定性的恶意取消学习攻击，其中

i2025.揭开被遗忘权背景下预测不确定性漏洞的研究方向.In

x对手旨在引起特定预测不确定性结果的期望操纵。我Proceedingsofthe34thACMInternationalConferenceonInformation

r

a们也设计了新的优化框架来实施我们的攻击，并进行andKnowledgeManagement(CIKM’25),November10–14,2025,

了广泛的实验，包括黑盒场景。值得注意的是，我们的Seoul,RepublicofKorea.ACM,NewYork,NY,USA,8pages.https:

广泛实验表明，与传统关注标签误分类的攻击相比，///10.1145/XXXXXX.XXXXXX

我们的攻击在操纵预测不确定性方面更为有效，而且

现有的针对常规攻击的防御措施对我们的攻击无效。1介绍

∗Thefirsttwoauthorscontributeequallytothiswork.