一种语义引导的神经网络关键数据路由路径算法.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２３０９００１０９

jj

一种语义引导的神经网络关键数据路由路径算法

朱富坤１滕臻２邵文泽１葛琦１孙玉宝３

南京邮电大学通信与信息工程学院南京

１２１０００３

南京邮电大学贝尔英才学院南京

２２１００４２

南京信息工程大学教育部数字取证工程研究中心南京

３２１００４４

()

zhufukun１９９９＠１６３．com

,,

摘要近年来由于人工智能在各领域的普及研究神经网络的可解释方法及理解神经网络的运作机理已经成为一个愈发重

.,.

要的话题作为神经网络解释性方法的一个分支网络的路径可解释性受到了越来越多的关注文中特别探讨了关键数据路

(,).,(

由路径CriticalDataRoutinPathCDRP这一面向网络路径的可解释方法首先通过ScoreＧCAMScoreＧClassActivation

g

),.,

Ma方法分析了CDRP在输入域上的路径可视化归因指出CDRP方法在语义层面的潜在缺陷然后提出了一种语义引导

p

,.,

的ScoreＧCDRP方法从方法机理上提升了CDRP与原始神经网络的语义一致性最后通过实验从路径热力图可视化以及相

、.

应的预测与定位精度等角度验证了ScoreＧCDRP方法相较于CDRP的合理性有效性和鲁棒性

:;;;;;

关键词计算机视觉深度神经网络神经网络可解释性特征可视化网络剪枝热力图

中图分类号TP１８３

SemanticＧuidedNeuralNetworkCriticalDataRoutinPath

gg

１２１１３

,,,

ZHUFukunTENGZhenSHAOWenzeGEQiandSUNYubao

,