FNN模型正确性测试及测试样本生成-刘洧光.pdf

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

FNN模型正确性测试及测试样本生成

博士研究生刘洧光

2024年01月21日

问题回溯

•相关内容

–2022.08.23王若辉《AI测试：历史与发展》

–2022.03.12侯钰斌《神经网络模型的覆盖测试》

–2021.11.29王若辉《深度学习系统安全性测试及测试样本优先级排序》

2

内容提要

•预期收获

•题目内涵解析

•研究背景与意义

•研究历史与现状

•知识基础

•算法原理

–NPC

–BET

•特点总结与工作展望

•参考文献

3

背景简介

•预期收获

–掌握FNN模型的正确性测试相关知识

–了解一种FNN模型的白盒测试方法

–了解一种FNN模型的黑盒测试方法

4

内涵解析与研究目标

•题目内涵解析（FNN正确性测试及测试样本生成）

–FNN：前馈神经网络

–正确性：模型的输出是否准确和可靠，是模型最主要的功能性需求

–测试样本：用于测试模型缺陷的所有样本，包括自然样本和或对抗样本

–测试样本生成：特指生成能发现模型正确性问题的测试样本

•研究目标

–面向人工智能领域FNN模型正确性测试

–研究测试预言、测试充分性验证、测试样本生成与排序等关键问题

–结合覆盖测试、差分测试、模糊测试与突变测试等理论

–发现模型的正确性问题并指导模型的修复与再训练

5

研究背景

•研究背景

–人工智能技术发展迅速，在图像识别、自然语言处理等领域发挥重要作用

–FNN模型被应用在医疗诊断、自动驾驶等安全关键领域

–FNN模型存在过拟合、欠拟合或数据不平衡、数据污染导致的缺陷

–这些缺陷将导致人工智能系统在正确性方面出现严重的问题

2022年5月，SpiceJet旗下一架波音7372022年8月，一辆开启了LCC车道居中辅助的小鹏P7在

自动驾驶系统失灵，造成17人重伤宁波高架行驶过程中与前方一辆检查故障的车辆相撞

6

研究意义

•研究意义

–发现模型缺陷

•测试模型的正确性

•及时发现模型的错误决策行为

–自动化生成测试样本

•高效且自动化生成测试样本，避免手工标

记或检查，提升模型正确性测试效率

•发现导致模型错误决策的测试样本分布

–模型正确性增强

•利用测试样本对目标模型进行再训练，以

提高目标模型的正确率

发现模型缺陷，自动化生成测试样本，保障模型安全