面向边缘部署场景的轻量神经网络修复算法.pdfVIP

第47卷第6期计算机学报Vol.47No.6

2024年6月CHINESEJOURNALOFCOMPUTERSJune2024

面向边缘部署场景的轻量神经网络修复算法

方毓楚李文中曾曜郑阳”胡靖”陆桑璐

1)（南京大学计算机科学与技术系南京210023)

2）（华为技术有限公司可信理论技术与工程实验室广东深圳518129）

摘要随着深度学习技术的不断进步，神经网络在各领域得到广泛应用，特别是在边缘计算环境中，例如智能交

通和新型电网等典型场景.然而，神经网络的可靠性问题限制了其在真实世界的广泛应用.在复杂的边缘环境中，

预训练模型往往因未涵盖所有可能的边缘情况而性能下降.因此，针对部署中的神经网络进行高效修复成为一个

关键的研究课题.传统修复方法通常涉及整个模型的重新训练，这在边缘场景中具有诸多局限性.首先，不同地理

区域的设备可能面临独特的自然噪声，使得统一模型难以适应所有环境.其次，深度神经网络的大规模参数使得其

训练和部署时资源消耗巨大，且更新期间的服务中断将降低系统的可用性.为解决这些问题，本文提出了一种轻量

级的补丁式神经网络修复算法.该算法通过引入个性化的补丁来增强神经网络对不同边缘环境中自然噪声和边角

案例的鲁棒性.具体的，在故障定位阶段，类比于程序插桩中通过注入代码以检测、改进和分析软件行为，本文提出

了神经网络插桩技术，通过将模型探针插桩进神经网络，观测其内部运行情况，实现了对错误样本的故障定位.在

故障修复时，通过插入无监督搜索得到的神经网络补丁来纠正原始神经网络的输出.此外，本文提出了故障预测模

块以提前预测潜在的错误输出，从而仅在必要时激活补丁.在基于2个数据集、15种噪声以及4个神经网络模型的

练样本量减少了超过90%，而所需更新的参数量最高减少了91.94%.这种有效且轻量的特性为解决边缘计算环

境中神经网络的可靠性问题提供了有效途径.

关键词神经网络修复；深度边缘计算；故障定位；故障预测；神经网络补丁

中图法分类号TP18D0I号10.11897/SP.J.1016.2024.01413

Light-WeightNeuralNetworkRepairforEdgeComputingScenarios

ZENGYaoZHENGYang)H

FANGYu-Chu’LIWen-ZhongZHUZheng’LUSang-Lul)

I(DepartmentofComputerScienceandTechnology,NanjingUniversity,Nanjing210023)

2)(TrustworthinessTheory,TechnologyEngineeringLab(TTELab),HuaweiTechnologiesCo,.Ltd.,Shenzhen,Guangdong518129)

AbstractThecontinuousevolutionandprogressofdeeplearningtechnologyhaveusheredinan

erawhereneuralnetworksplayapivotalroleinvariousfields.Thisisparticularlyevidentinedge

computingenvironmentssuchasintelligenttransportationsystemsandnext-generationpower

grids.However,despitethewidespreadapplications,thereliabilityofneuralnetworksremainsa

significantbottleneck,