CN120297419A 基于大语言模型对抗性提示检测方法、设备及介质 （山东浪潮数字商业科技有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120297419A

(43)申请公布日2025.07.11

(21)申请号202510436673.X

(22)申请日2025.04.09

(71)申请人山东浪潮数字商业科技有限公司

地址250100山东省济南市高新区浪潮路

1036号浪潮科技园

(72)发明人彭一鸣郑斌李伍孙振张楠

(74)专利代理机构济南信达专利事务所有限公司37100

专利代理师孙园园

(51)Int.Cl.

G06N5/04(2023.01)

G06F40/30(2020.01)

G06N3/0442(2023.01)

G06N3/08(2023.01)

G06N3/0455(2023.01)

权利要求书3页说明书9页附图4页

(54)发明名称

基于大语言模型对抗性提示检测方法、设备

及介质

(57)摘要

CN120297419A本发明公开了基于大语言模型对抗性提示检测方法、设备及介质，属于人工智能安全技术领域，本发明要解决的技术问题为如何克服现有技术中大语言模型安全防护过程中存在的静态规则滞后、人工维护成本高昂以及上下文理解不足的缺陷，实现动态、实时且高精度的对抗性提示检测，采用的技术方案为：特征提取：全面解析用户文本中的语义信息、结构信息以及上下文信息