大模型降本增效技术盘点:量化、稀疏化与推理优化的工程实践.pptxVIP

  • 0
  • 0
  • 约小于1千字
  • 约 45页
  • 2026-11-18 发布于上海
  • 举报

大模型降本增效技术盘点:量化、稀疏化与推理优化的工程实践.pptx

;CONTENTS;01;CHAPTER01·背景与挑战;CHAPTER01·背景与挑战;CHAPTER01·背景与挑战;CHAPTER01·TL;DR;02;CHAPTER02·技术全景总览;CHAPTER02·技术全景总览;CHAPTER02·TL;DR;03;CHAPTER03·量化技术;CHAPTER03·量化技术;CHAPTER03·量化技术·GPTQ;CHAPTER03·量化技术·AWQ;CHAPTER03·量化技术·其他方案;CHAPTER03·量化技术·精度分析;CHAPTER03·量化技术·TL;DR;04;CHAPTER04·稀疏化与剪枝;CHAPTER04·稀疏化与剪枝·结构化剪枝;CHAPTER04·稀疏化与剪枝·N:M稀疏;CHAPTER04·稀疏化与剪枝·知识蒸馏;CHAPTER04·TL;DR;05;CHAPTER05·推理优化·全景图;CHAPTER05·推理优化·KVCache;CHAPTER05·推理优化·PagedAttention;CHAPTER05·推理优化·连续批处理;CHAPTER05·推理优化·投机解码;CHAPTER05·推理优化

文档评论(0)

1亿VIP精品文档

相关文档