基于类激活映射的卷积神经网络解释技术.pdfVIP

基于类激活映射的卷积神经网络解释技术

摘要

随着人工智能的快速发展，在某些特定领域，人工智能的决策性能已经超过了人

类的决策能力。但是，在人工智能决策过程中存在着黑盒模型的问题导致模型的结果

虽然正确，但无法合理解释，阻碍了人工智能的进一步应用。为了提高人工智能的可

解释性，需要将深度学习决策过程透明，以建立人与人工智能之间的联系和信任。当

前，深度卷积神经网络在人工智能和深度学习中的应用越来越多，使得深度卷积神经

网络的可解释性备受关注。在计算机视觉领域，可视化是解释深度卷积神经网络的最

流行方法之一。其中，基于类激活映射的方法可以突出显示输入图像的主要部分，并

显示与神经网络决策相关的显著特征区域。然而，基本的类激活映射方法生成显著性

图时存在许多问题，包括生成的图像中含有大量无意义的信息，如噪声或特征定位范

围过大以及对于重要特征识别不准确等。此外，某些模型生成显著性图需要大量训练、

计算时间长。因此，本文对Score-CAM模型进行实验分析。深入探讨Score-CAM模型

识别图像重要特征原理以及模型本身存在的不足之处，并对其进行改进。

首先，在Score-CAM的基础上，本文提出使用基于高斯滤波的扰动变换