人工智能行业:Databricks公司开源1320亿参数DBRX模型,目前性能最领先的MoE架构大模型-240401-中信建投-17页.pdfVIP

  • 3
  • 0
  • 约3.38万字
  • 约 17页
  • 2024-04-15 发布于辽宁
  • 举报

人工智能行业:Databricks公司开源1320亿参数DBRX模型,目前性能最领先的MoE架构大模型-240401-中信建投-17页.pdf

证券研究报告·行业动态

Databricks公司开源1320亿参数DBRX模人工智能

型,目前性能最领先的MoE架构大模型

核心观点

1.大数据AI公司Databricks于3月27日开源了一款拥有维持强于大市

1320亿参数、使用MoE(专家混合模型)架构的Decoder-

Only大模型DBRX。于芳博

yufangbo@

2.DBRX模型正式开源后,Databricks官网发布了DBRX模型

010

与其他大模型的功能对比与评价。综合来看,DBRX模型的

SAC编号:S1440522030001

多项性能优于马斯克开源的Grok-1,DBRX是目前在所有

开源大模型中性能处于领先位置。发布日期:2024年04月01日

3.Databricks官网同时也发布了DBRX模型与其他大模型的训

练和推理效率的评价对比,在使用新的MoE架构与更好的市场表现

预训练数据后,DBRX在模型质量与效率之间达到了一个更44%

好的平衡。34%

24%

产业要闻14%

4%

-6%

【微软亚研院新作:让大模型一口气调用数百万个API】111111111111

111111111111

////////////

121234567890

11/////////1

//333333333/

222222222223

【英伟达AI芯片H200开始供货,性能相比H100提升220

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档