原创力文档能效无线大语言模型推理通过
不确定性和重要性感知推测解码
JihoonPark,SeungeunOh,andSeong-LyunKim
摘要—为了应对资源受限环境下对设备端大语言模型推理
日益增长的需求，混合语言模型（HLM）应运而生，结合了轻量
级本地模型与强大的基于云端的大语言模型。最近关于HLM
的研究主要集中在提高准确性和延迟上，但往往忽视了通信和
能效。我们提出
您可能关注的文档
- 超越 GPT-5：通过性能效率优化路由使大语言模型更便宜更好.pdf
- 代理记忆中的语义锚定：利用语言结构维持持久的对话上下文.pdf
- 探索 LLMS 在自动音乐情感标注中的可行性.pdf
- 于 ISAC 网络中蒸馏 RF 指纹的 UAV 个体识别.pdf
- 超越模态限制：一种结合有效课程学习的统 一 MLLM 自动口语评估方法.pdf
- 多模态连续思维链在视觉语言模型中的潜在空间推理.pdf
- 警报还是噪音？通过主动行为分析减少云安全中的误报.pdf
- 复制子动力学的反馈线性化：一个控制框架以促进演化博弈的收敛.pdf
- 基于深度学习的金融时间序列预测通过滑动窗口和变分模态分解.pdf
- 用于诊断胸部 X 光片上钙化肺结节的解剖特征融合模型.pdf
- 晋中市2026届高三（二模）历史试卷（含答案详解）.pdf
- （二模）2026年3月晋中市高三年级调研测试历史试卷（含答案详解）.docx
- 2026中信银行重庆分行春季校园招聘笔试备考试题及答案解析.docx
- 中信银行北京分行2026年春季校园招聘笔试模拟试题及答案解析.docx
- 2026四川宜宾南溪区文化广播电视和旅游局招聘非遗传习馆解说员1人笔试模拟试题及答案解析.docx
- 2026四川巴中市平昌县应急管理局面向社会招聘综合应急救援大队队员20人笔试模拟试题及答案解析.docx
- 2026广东东莞市公安局常平分局第2批警务辅助人员招聘70人笔试参考题库及答案解析.docx
- 2026中国社会科学院金融研究所博士后流动站博士后招收笔试备考题库及答案解析.docx
- 2026中国科学院办公厅工作人员招聘2人考试备考试题及答案解析.docx
- 2026上海商学院非事业编制岗位招聘4人笔试模拟试题及答案解析.docx
最近下载
- （最新）ISO 55013-2024 资产管理-数据资产管理指南（中文版-翻译-2024）（推荐下载）.pdf VIP
- (QC小组活动专业能力)中级质量专业能力考试题库及答案.docx VIP
- 固体物理第一章晶体结构.pptx VIP
- 聚集性事件、药品群体不良事件调查处置标准操作规程.docx VIP
- DB52T 1692-2022 水利工程标识标牌技术规范.pdf VIP
- 2026年qc诊断师中级考试题库及答案.docx VIP
- 北航机械设计课程设计设计计算说明书.docx VIP
- (项目部)应急预案演练总结及评估报告.docx VIP
- 最新领军人才项目申报答辩汇报PPT模板.pptx VIP
- 2025年增资协议中英.doc
文档评论（0）