人工智能模型正确性测试技术研究.pdfVIP

第

22

卷

第

S1

期空间电子技术Vol.

22

No.

S1

2025

年

6

月Space

Electronic

TechnologyJun.

2025

DOI:10.3969/j.issn.1674-7135.2025.S1.013

人工智能模型正确性测试技术研究

肖旭明

，高蕾

，曾彦淞

，门永平

（中国空间技术研究院西安分院,

西安

710000）

摘要:近年来，各种自然语言处理模型和图像识别模型已在军事设备上广泛应用，但是人工智能模

型质量、效能水平参差不齐，难以进行有效的评估和测试，急需提出针对军用人工智能模型的测试方

法来完成模型正确性评估。人工智能算法模型以海量的原始数据作为训练输入，通过算法模型进行

训练，最终由训练好的算法模型输出预测结果。然而由于算法模型的黑盒属性以及原始数据中可能

存在的分布不均匀等问题，导致模型预测错误，进而引发人身财产安全事故的情况时有发生。如何

衡量人工智能模型的正确性，成为了一个重要课题。文章从模型数据和模型算法两个维度出发，针

对模型数据，提出基于聚类算法的模型数据质量评估方案，找到对模型判断结果有较大影响的原始

数据，修改去除冗余的数据集部分，提高数据集的质量。针对模型算法，提出基于模糊测试理论的模

型算法正确性验证方案，根据模糊测试思想，通过应用微小的扰动来改变原始输入，从而生成突变输

入，通过识别模型将突变输入误分类的情况，来验证模型算法的正确性。此外，为了评估测试的充分

性，提出基于神经元覆盖率引导的测试方法，极大程度的覆盖神经元的状态空间，寻找模型算法的误

判点，从而提高人工智能模型的正确性。

关键词:人工智能模型测试；模型正确性测试；聚类算法；模糊测试

.

中图分类号：V443;TP183

文献标志码：A

文章编号：1674-7135(2025)S1-0148-08

Researchoncorrectnesstestingtechniquesforartificial

intelligencemodels

XIAO

Xuming

,

GAO

Lei

,

ZENG

Yansong

,

Men

Yongping

（China

Academy

of

Space

Technology(Xi’an),

Xi’an

710000,

China）

Abstract:In

recent

years,

various

natural

language

pr