真实环境中的模型即服务(MaaS):大规模生产级大语言模型推理集群的特征分析.pdf

真实环境中的模型即服务(MaaS):大规模生产级大语言模型推理集群的特征分析.pdf

Model-as-a-ServiceintheWild:Characterizing

ProductionLLMInferenceClustersatScale

YiyunZhengLingyunYangYinghaoYu

TheChineseUniversityofHongAlibabaGroup

文档评论(0)

1亿VIP精品文档

相关文档