一种面向微控制器上环境声音分类的DNN压缩方法.pdfVIP

计算机与现代化

2024年第1期JISUANJIYUXIANDAIHUA总第341期

文章编号：1006-2475（2024）01-0080-07

一种面向微控制器上环境声音分类的DNN压缩方法

孟娜，方维维，路红英

（北京交通大学计算机与信息技术学院，北京100044）

摘要：环境声音分类（EnvironmentalSoundClassification，ESC）是非语音音频分类任务最重要的课题之一。近年来，深度

神经网络（DeepNeuralNetwork，DNN）方法在ESC方面取得了许多进展。然而，DNN是计算和存储密集型的，无法直接

部署到基于微控制器（MicrocontrollerUnit，MCU）的物联网设备上。针对这一问题，本文提出一种用于资源高度受限设

备的DNN压缩方法。由于DNN模型参数规模较大无法直接部署，因此提出使用剪枝方法进行大幅压缩，并针对该操作

带来的精度损失问题，设计一种基于模型中间层特征信息的知识蒸馏方法。基于STM32F746ZG设备在公开的数据集

（UrbanSound8K、ESC-50）上进行测试，实验结果表明，本文方法能够获得高达97%的压缩率，同时保持良好的推理精度

和速度。

关键词：环境声音分类；边缘计算；微控制器；剪枝；知识蒸馏；量化

中图分类号：TP81文献标志码：ADOI：10.3969/j.issn.1006-2475.2024.01.013

ADNNCompressionMethodforEnvironmentalSoundClassificationonMicrocontrollerUnit

MENGNa，FANGWei-wei，LUHong-ying

（SchoolofComputerandInformationTechnology，BeijingJiaotongUniversity，Beijing100044，China）

Abstract：EnvironmentalSoundClassification（ESC）isknownasoneofthemostimportanttopicsofthenon-speechaudioclas­

sificationtask.Inrecentyears，deepneuralnetworks（DNNs）havemadealotofprogressinESC.However，DNNsarecomputa­

tionallyandmemory-intensive，andcannotbedirectlydeployedonIoTdevicesbasedonmicrocontrollerunits（MCU）.Toad­

dressthisproblem，thispaperproposesaDNNcompressionmethodforhighlyresource-constraineddevices.SinceDNNshavea

largenumberofparameters，whichcannotbedirectlydeployed，sothispaperproposestousethepruningmethodforsubstantial

compression.Afterwards，aimingattheproblemofaccuracylosscausedbythisoperation，wedesignaknowledgedistillation

basedonthefeatureinformationofmultipleintermediatelayers.Testsarecarriedoutonpublicdatasets（UrbanSound8K，ESC-

50）usingtheSTM32F746ZGdevice.Theexperimentalresultsdemonstratethatproposedmethodcanachieveupto97%com­

pressionratewhi