面向边缘计算的多模态协同推理系统设计.pdfVIP

“无线算力网络架构与关键技术”专题

doi:10.3969/j.issn.1006-10100005

中图分类号：TN929.5

OSID:文献标志码：A文章编号：1006-1010(2025)03-0072-06

引用格式：李文韬,王玺钧,陈立.面向边缘计算的多模态协同推理系统设计[].移动通信,2025,49(3)：72-77.

扫描二维码

与作者交流LIWentao,WANGXijun,CHENLi.DesignofaMultimodalCollaborativeInferenceSystemforEdgeComputing[J].

MobileCommunications,2025,49(3):72-77.

面向边缘计算的多模态协同推理系统设计

李文韬，王玺钧，陈立

（中山大学电子与信息工程学院，广东广州510006）

【摘要】边缘计算作为一种新兴的计算范式，通过将计算资源和服务部署到靠近数据源或用户的网络边缘，具有低延时、高

可靠性和隐私保护等优点，但也面临资源受限的挑战。针对边缘计算设备资源受限的特点，提出一种多模态基础模

型协同推理框架，以提升智能语音交互系统的性能和效率。通过将语音合成模型从终端转移至边缘侧进行推理，并

进行终端与边缘侧间的通信，实现协同推理。实验结果表明，该方法在保证了模型推理精度的同时，显著降低了系

统的交互延时和显存占用，为边缘计算环境下的多模态应用提供了新的思路和技术方案。

【关键词】边缘计算；协同推理；多模态推理；语音克隆

MultimodalCollaborativeInferenceSystemDesignforEdgeComputing

LIWentao,WANGXijun,CHENLi

(SchoolofElectronicandInformationEngineering,SunYatsenUniversity,Guangzhou510006,China)

[Abstract]Edgecomputing,asanemergingcomputingparadigm,offersadvantagessuchaslowlatency,highreliability,andprivacy

protectionbydeployingcomputingresourcesandservicesclosetodatasourcesorusersatthenetworkedge,whilefacing

resourceconstraints.Addressingtheresource-limitedcharacteristicsofedgecomputingdevices,thispaperproposesa

multimodalfoundationmodelcollaborativeinferenceframeworktoenhancetheperformanceandefficiencyofintelligent

voiceinteractionsystems.Collaborativeinferenceisachievedbytransferringthespeechsynthesismodelfromtheterminalto

theedgeforinferenceandestablishingcommunicationbetweentheterminalandedgeside.