1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 计算机
  5. 人工智能

2025AICon全球人工智能开发与应用大会-上海站：以 KV 缓存为中心的高效长文本方法的优化和实践.pdfVIP

  • 2
  • 0
  • 约1.58万字
  • 约 56页
  • 2025-09-19 发布于山西
  • 举报

2025AICon全球人工智能开发与应用大会-上海站：以 KV 缓存为中心的高效长文本方法的优化和实践.pdf

    演讲人：姜慧强

    oResearchSDEinMicrosoftResearchAsia(Shanghai)

    System-AlgorithmCo-design

    Efficientmethodstoaccelerateinference/training

    01长文本大语言模型的应用和推理挑战

    02当前主流推理优化方法与技术

    03以KV缓存为中心的大语言模型推理架构

    04以KV缓存为中心的高效长文本方法

    05总结与展望

    •Ma

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >