袁镱-一念 LLM分布式推理优化实践.pdfVIP

  • 1
  • 0
  • 约9.29千字
  • 约 15页
  • 2026-05-22 发布于浙江
  • 举报

演讲人:袁镱

-1-

-2-

大语言模型推理框架

大语言模型推理的基本逻辑硬件厂商:算子研发上有天然优势,充

分利用自家硬件

TensorRT-LLM,MindIE

文档评论(0)

1亿VIP精品文档

相关文档