大模型在边缘设备上的性能评估：时延、能耗与精度的权衡取舍.docx

PAGE

PAGE1

大模型在边缘设备上的性能评估：时延、能耗与精度的权衡取舍

课题分析与写作指导

本课题聚焦于大语言模型与视觉模型在资源受限边缘设备上的实际部署表现，核心在于构建一套科学严谨的评估体系，以量化分析模型在手机、物联网终端等边缘节点运行时的时延特性、能耗消耗与任务精度之间的复杂互动关系。随着人工智能技术向终端场景的深度渗透，传统云端推理模式在实时性、隐私保护及带宽成本方面暴露出显著瓶颈，促使业界将目光转向边缘侧部署。然而，大模型固有的高计算复杂度与参数规模使其在边缘设备上面临严峻挑战，尤其在模型经过量化压缩后，性能指标往往呈现非线性变化趋势。本研究并非简单复现现有基准