基于知识蒸馏的跨模态检索模型压缩与边缘部署系统设计.docxVIP

PAGE2

基于知识蒸馏的跨模态检索模型压缩与边缘部署系统设计

摘要

随着物联网与移动计算的发展，在边缘设备上实现高效的跨模态检索（如图文检索）需求日益迫切。然而，当前主流的视觉语言预训练模型参数量巨大、计算复杂，难以在资源受限的边缘设备上高效部署与推理。本课题旨在设计并实现一个面向边缘计算的跨模态检索模型压缩与部署系统，核心方案是基于知识蒸馏技术，将大型教师模型的知识迁移至轻量化学生模型，并优化其在边缘设备上的推理流程。

本文首先分析了边缘端跨模态检索的现实需求与现有方案的不足，明确了系统设计目标。其次，阐述了知识蒸馏、模型压缩及边缘推理等关键技术。在需求分析阶段，明确了系统的功能与非功能指标。系统总体设计采用分层架构，包含知识蒸馏训练、模型转换与边缘推理三大核心模块。详细设计阶段，重点设计了跨模态知识蒸馏策略与边缘推理引擎。系统实现基于PyTorch与TensorRT，完成了从模型训练到边缘部署的完整流程。测试结果表明，压缩后的学生模型在保持较高检索精度的同时，模型大小与推理延迟显著降低，满足边缘部署要求。本设计的核心创新点在于提出了一种针对跨模态检索任务的注意力引导知识蒸馏策略，有效平衡了模型性能与效率。

第一章绪论

1.1研究背景

在人工智能与物联网深度融合的背景下，边缘计算正成为处理海量终端数据的关键范式。边缘设备，如智能手机、监控摄像头和车载终端，产生了大量的