(共97页PPT)大模型微调6次佳实践.pptx

换个口味,咱做个选择题——;结束了理论的分享;2025.12;;在这个时间点说「最佳实践」;在目前的节点,真正的最佳实践是——;跟大家分享点「次佳实践」……;再谈基座模型的选择;一、模型部署次佳实践;Ollama;ollamarunEntropyYue/chatglm3:6b;vLLM;;以vLLM部署Qwen3为例;vLLM的技术创新;一、时间优化:ContinuousBatching;2-1细化使用(分块);二、空间优化:PagedAttention;OpenLLM;;;SGLang;用Screen管理你的后台进程;breakfor1minute;一、模型

文档评论(0)

1亿VIP精品文档

相关文档