西门子 -基于llm-d和Kubernetes的分布式推理 Distributed Inference with llm-d and Kubernetes.pdf

西门子 -基于llm-d和Kubernetes的分布式推理 Distributed Inference with llm-d and Kubernetes.pdf

DistributedInferencewithllm-dandKubernetes

AntonioCardace

PrincipalMachineLearningEngineer

InferenceEngineering

RedHat

Agenda

OverviewoftheprojectDemo

▸Whatisllm-d▸

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档