1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 高等教育
  5. 理学

向量计算_第09章_大模型推理与优化.docx

向量计算_第09章_大模型推理与优化.docx

    清华大学出版社《向量计算》配套课件·课

    清华大学出版社《向量计算》配套课件·课堂讲义

    第9章

    大模型推理与优化

    换个角度学AI，打通任督二脉

    刘鹏著·清华大学出版社

    让千亿参数大模型跑得更快、更省、更远

    第9章大模型推理与优化《向量计算》配套课件

    第9章大模型推理与优化

    《向量计算》配套课件

    重点与难点1重点

    重点与难点

    1重点：量化映射公式与注意力相似度计算

    2重点：FlashAttention分块降低内存访问

    3难点：O(n2)复杂度成因与IO感知优化思路

    1理解In

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >