计算机行业专题：开源Llama3.1发布，对端云AI的影响.pdfVIP

•Llama3.1发布，开源大模型王者易主。7月24日报道，美国科技巨头Meta推出迄今为止性能最强大的开源大模型——Llama3.1405B（4050亿参数），同时

发布了全新升级的Llama3.170B和8B模型版本；Meta评估了超150个基准数据集的性能，Llama3.1405B在代码生成和评估、数学推理、长上下文处理、工

具使用和多语言支持等一系列任务中，可与GPT-4o、Claude3.5Sonnet和GeminiUltra相媲美；在其他场景中，Llama3.1405B进行了与人工评估的比较，

其总体表现优于GPT-4o和Claude3.5Sonnet。

•开源引领，加速构建META生态。与闭源模型不同，Llama3.1是公开可用的模型，模型的权重可供下载；Llama3.1开源使得更广泛的开发者及社区可以为其应

用程序定制模型，并在任何环境中运行，包括本地服务器、云端、笔记本电脑、甚至手机等，同时无需将数据分享给Meta。同时，Meta透露，其更新了许可证，

允许开发人员首次使用包括405B参数规模的Llama模型的输出来改进其他模型。

•未来预期：转向MOE结构，落地三种商业模式。MoE（混合专家模型）是一种基于Transformer架构的模型，旨在提高模型的计算效率和性能。其基本思想是

通过多个“专家”网络（子模型）协同工作，根据输入数据的特征动态选择最合适的专家，从而优化计算资源的使用和模型的预测精度。基于Meta的商业模式，

我们认为Llama3.1在未来将有以下商业化落地模式：1）云厂商使用费用：谷歌、亚马逊等下游云服务商提供基于Llama3.1模型的服务，Meta将从中收取部

分费用；2）通过Meta生态间接变现：在Meta开发的Facebook、Instagram等软硬件产品上使用基于Llama3.1模型的AI助手，从而吸引用户在软件内消费；

3）广告服务：基于Llama3.1模型提供广告开发以及精准投放服务，并收取费用。

•风险提示：大模型研发进展不及预期，AI应用落地不及预期，AI算力投入不及预期。

请务必阅读正文之后的免责声明及其项下所有内容

图1：Llama3.1与主流大模型测试对比

•7月24日报道，美国科技巨头Meta推出迄今为止性能最强大的开源大模

型——Llama3.1405B（4050亿参数），同时发布了全新升级的Llama

3.170B和8B模型版本。

•Meta评估了超150个基准数据集的性能，Llama3.1405B在代码生成和评

估、数学推理、长上下文处理、工具使用和多语言支持等一系列任务中，可

与GPT-4o、Claude3.5Sonnet和GeminiUltra相媲美。

•在其他场景中，Llama3.1405B进行了与人工评估的比较，其总体表现优

于GPT-4o和Claude3.5Sonnet。另外，升级后的Llama3.18B和70B模

型，相比于同样参数大小的模型性能表现也更好。

•Llama3.1405B支持上下文长度为128KTokens，增加了对八种语言的支

持，在基于15万亿个Tokens、超1.6万个H100GPU上进行训练，这也是

Meta有史以来第一个以这种规模进行训练的Llama模型。

•与之前的Llama版本相比，Llama3.1提高了用于训练前和训练后的数据数

量和质量。这些改进包括为训练前数据开发更仔细的预处理和管理流程、开

发更严格的质量保证以及训练后数据的过滤方法。

资料来源：Meta官网，国信证券经济研究所整理

•截至目前，已经有超过25个企业推出了基于Llama3.1开源版本的新模型。

图2：Llama3.1405B模型人类评估测试

其中，亚马逊AWS、Databricks和英伟达正在推出全套服务，AI芯片创企

Groq等为Meta此次发布的所有新模型构建了低延迟、低成本的推理服务，

ScaleA