原创力文档清华大学出版社《向量计算》配套课件·课堂讲义第9章大模型推理与优化换个角度学AI，打通任督二脉刘鹏著·清华大学出版社让千亿参数大模型跑得更快、更省、更远
《向量计算》配套课件第9章大模型推理与优化第9章大模型推理与优化2/38教学目标1理解Int8/FP4量化的原理与精度—性能权衡2掌握注意力即向量相似度的数学本质3掌握FlashAttention分块与IO感知优化4了解KV缓存、批处理与并行等推理技术5能规划大模型推理性能优化全流程重点与难点1重点：量化映射公式与注意力相似度计算2重点：FlashAttention分块降低内存访问3难
您可能关注的文档
- 2026+人工智能脉搏调查：不安的AI革命+The+Uneasy+AI+Revolution.pptx
- 2026短剧出海白皮书：ai重构短剧产业价值链-awsx短剧自习室-202610.pptx
- 2026年飞瓜抖音家居家装品类线上消费市场洞察-飞瓜数据-202610.pptx
- 毕马威_人力资源科技未来思想领导力报告+A+Thought+Leadership+on+the+Future+of+Human+Resources+Technology.pptx
- 向量计算_第01章_走进向量计算的世界.pdf
- 向量计算_第02章_万物皆向量_Embedding技术.pdf
- 向量计算_第03章_向量相似度度量.pdf
- 向量计算_第04章_近似最近邻搜索算法.pdf
- 向量计算_第05章_向量数据库技术.pdf
- 向量计算_第06章_向量计算的硬件加速.pdf
文档评论（0）