1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

模型行为可解释性方法、系统、介质及设备.pdfVIP

  • 1
  • 0
  • 约1.26万字
  • 约 11页
  • 2023-04-24 发布于北京
  • 举报

模型行为可解释性方法、系统、介质及设备.pdf

    本申请公开了一种模型行为可解释性方法、系统、介质及设备，属于神经网络模型技术领域。该方法包括：根据模型预测结果，确定测试样本中各个测试单元对预测结果的贡献度；对贡献度进行排序，根据贡献度的排序结果选取第一预设数量的测试单元作为解释单元；分别计算训练集中各个训练样本与解释单元的相关度；对相关度进行排序，根据相关度的排序结果选取第二预设数量的训练样本作为解释样本。该方法通过获取与训练结果相关的解释单元和解释样本，对神经网络模型的输出结果进行解释，联合训练和测试阶段解释模型行为的神经网络可解释性方案，

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114021718 A (43)申请公布日 2022.02.08 (21)申请号 202111297506.X (22)申请日 2021.11.04 (71)申请人 北京香侬慧语科技有限责任公司

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >