1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 建筑/施工
  5. 建筑论文

端侧大模型部署场景下的模型轻量化技术路径与推理效率提升策略.docxVIP

  • 1
  • 0
  • 约2.16万字
  • 约 48页
  • 2026-09-03 发布于广东
  • 举报

端侧大模型部署场景下的模型轻量化技术路径与推理效率提升策略.docx

    端侧大模型部署场景下的模型轻量化技术路径与推理效率提升策略

    目录

    模型优化与推理提升．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

    1.1模型结构设计优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

    1.2输入输出处理机制优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

    1.3模型压缩与适配策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

    1.4模型并行推理优化方案．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

    模型性能评估与分析．．

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >