大模型训练-英伟达-周国峰-00-20231124_DataFun_Introduction to TensorRT LLM.pdfVIP

  • 8
  • 0
  • 约2.64万字
  • 约 39页
  • 2023-12-15 发布于中国
  • 举报

大模型训练-英伟达-周国峰-00-20231124_DataFun_Introduction to TensorRT LLM.pdf

Introductionto

TensorRTLLM

周国峰-NVIDIA-研发经理

DataFunCon#2023

Agenda

•WhatisTensorRTLLM

•HighlightedFeaturesinTensorRTLLM

•HowtouseTensorRTLLM.

•LLMInferencePerformancewithTensorRTLLM

•TheFutureofLLMInferencewithTensorRTLLM

2

Agenda

•WhatisTensorRTLLM

•HighlightedFeaturesinTensorRTLLM

•HowtouseTensorRTLLM.

•LLMInferencePerformancewithTensorRTLLM

•TheFutureofLLMInferencewithTensorRTLLM

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档