CN119598433A 一种基于权重叠加的大语言模型指纹添加方法和设备 （浙江大学）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119598433A

(43)申请公布日2025.03.11

(21)申请号202411593197.4

(22)申请日2024.11.08

(71)申请人浙江大学

地址310058浙江省杭州市西湖区余杭塘

路866号

(72)发明人韩蒙徐振华邢文鹏林昶廷李莹王滨金波

(74)专利代理机构杭州天勤知识产权代理有限

公司33224

专利代理师曹兆霞

(51)Int.Cl.

G06F21/32(2013.01)

G06F21/71(2013.01)

权利要求书2页说明书5页附图2页

(54)发明名称

一种基于权重叠加的大语言模型指纹添加

方法和设备

(57)摘要

CN119598433A本发明提供的基于权重叠加的大语言模型指纹添加方法，相比于现有技术而言，该方法以中毒实例为指纹，通过权重叠加，在无需重新微调下游模型的情况下，将指纹信息快速嵌入至大批量的大语言模型中，甚至能够在仅使用CPU的情况下完成嵌入，大幅提高了大语言模型进行文本处理任务的可扩展性和指纹嵌入效率；指纹嵌入可以避免恶意用户的指纹猜测行为也解决了微调模型所带来的复杂性问题；另外，指纹向量获取与下游模型之间解耦，引入的正则化数据对可以抵消指纹数据对的潜在不良影响，使得添加指纹向量