从学习到取消学习： 多模态大型语言模型中的生物医学安全保护.pdfVIP

从学习到取消学习：

多模态大型语言模型中的生物医学安全保护

1∗1∗11†1,2

DunyuanXU,XikaiYang,YaoqianLi,JinpengLi,Pheng-AnnHeng

1DepartmentofComputerScienceandEngineering,TheChineseUniversityofHongKong,HongKong,China

2InstituteofMedicalIntelligenceandXR,TheChineseUniversityofHongKong,HongKong,China

jpli21@.hk

Abstract

BeforeUnlearningAfterUnlearning

生物医学多模态大型语言模型（MLLMs）的安全性引RequiredCapabilitiesRequiredCapabilities

起了越来越多的关注。然而，训练样本容易包含难以•Task-SpecificSkills•Task-SpecificSkills

•GeneralKnowledge•GeneralKnowledge

检测的私人信息和错误知识，这可能导致部署后出现

本隐私泄露或错误输出的问题。一个直观的想法是对UndesiredKnowledgeUnlearnForgottenKnowledge

译训练集进行重新处理以移除不需要的内容并从头开•PrivateInformation•PrivateInformation

•IncorrectFacts•IncorrectFacts

中始重新训练模型。然而，由于显著的计算成本，尤其

是在大型语言模型中，这种做法并不实际。机器遗忘

1（MU）作为一种解决方案出现了，它通过有选择地移图1:通过应用遗忘学习，一个微调的生物医学多语言

v

2除有害样本衍生的不想要的知识来避免完全重新训语言模型能够在保持其所需能力的同时，“忘记”不需

9练，同时保留正常情况下的必要能力。但是，在生物要的知识。

1医学MLLMs的安全保护方面没有可用的数据集来评

4

0估遗忘质量。为了填补这一空白，我们提出了首个基准

.MultimodalLargeLanguageModelUnlearningforBio中人员必须从多样化的来源收集数据，如网络抓取、私有

8

0等icine（MLLMU-Med），该基准基于我们的新数据生成数据收集或合成内容。在此过程中，这些广泛数据集的

5管道，有效地将合成私人数据和事实错误整合到训练集不一致质量和未经验证的内容可能会无意中引入有害

2中。我们的基准针对两个关键场景：1）隐私保护，即患者信息，例如私人信息或错误的信息，这引发了对基于这

:

v私人信息被误包含在训练集中，导致模型在推理过程中些训练样本微调后的MLLMs的安全性担忧(Liuetal.

i

x无意中响应私人数据；2）错误去除，即从不可靠来源导