基于深度可分离卷积与知识蒸馏的离线低资源唤醒词嵌入式设备部署与优化设计.docx

PAGE2

基于深度可分离卷积与知识蒸馏的离线低资源唤醒词嵌入式设备部署与优化设计

摘要

随着物联网与智能家居的普及，语音唤醒词检测成为智能设备交互的核心入口。然而，现有唤醒词模型参数量大、计算复杂度高，难以在资源极度受限的超低功耗微控制器上实现离线部署。本课题针对此痛点，设计并实现了一种基于深度可分离卷积与知识蒸馏的轻量级唤醒词系统。

本课题的核心方案为：首先训练高精度的标准卷积教师模型，提取其软标签与中间层特征；随后设计基于深度可分离卷积的学生网络，通过多级知识蒸馏策略，将教师模型的表征能力迁移至参数量小于200KB的学生网络中；最后针对超低功耗MCU进行算子优化与内存重排，实现离线