CN119577594A 多模态大模型内容安全性评估方法和装置 （华北电力科学研究院有限责任公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119577594A

(43)申请公布日2025.03.07

(21)申请号202411580248.X

(22)申请日2024.11.07

(71)申请人华北电力科学研究院有限责任公司

地址100045北京市西城区复兴门外地藏

庵南巷一号

申请人国家电网有限公司

(72)发明人徐小天应宗浩孙跃陈乐然李敏高冉馨司冠林李琳

王佐正

(74)专利代理机构北京三友知识产权代理有限

公司11127

专利代理师张瑜

(51)Int.Cl.

G06F18/243(2023.01)

G06F18/21(2023.01)

G06F18/25(2023.01)

G06N20/00(2019.01)

权利要求书2页说明书10页附图4页

(54)发明名称

多模态大模型内容安全性评估方法和装置

(57)摘要

CN119577594A本发明提供了一种多模态大模型内容安全性评估方法和装置，方法包括：将多模态有害数据集输入至待评估多模态大模型，得到多模态大模型的输出响应；初始化多个大型语言模型，为多个大型语言模型赋予不同的角色特征以形成异质性评估体系；利用多个大型语言模型对多模态大模型进行内容安全性方面的独立评估；利用多个大型语言模型共同审议独立评估