量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券.pptxVIP

  • 11
  • 0
  • 约4.93千字
  • 约 31页
  • 2025-03-08 发布于陕西
  • 举报

量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券.pptx

量化漫谈系列之十四:

DeepSeek部署与蒸馏模型推理评测;

国金证券

SINOLINKSECURITIES

目录

01简单对话与批量化调用

02本地化部署方式对比

03模型怎么选?——配置与性能对比;

1简单对话与批量化调用;

●简单使用对话功能,可以有以下途径:

●DeepSeek官网:选择开始对话即可免费使用。开启深度思考后使用R1模型,同时拥有联网搜索功能。目前由于各类因素,存在服务不稳定的情况。

●硅基流动:与华为云合作,上线DeepSeek-V3/R1与其他DeepSeek蒸馏小模型。目前支持在线对话和API调用,此外也支持在线微调。对话框可调整MaxToken、Temperature等参数。

●阿里云百炼:同样上线Deepeek-V3/R1与各类蒸馏小模型,仅支持API调用。

●火山引擎;

fromopenaiimportopenAI

client=openAI(api_key=DeepseekAPIKey,base_url=)

7response=pletions.create(

8model=deepseek-chat,

9messages=[

11

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档