2026年-百度AI大底座大模型研发基础设施方案 百度 -AI大模型应用.pptxVIP

百度AI大底座

大模型研发基础设施方案

基于Al大底座的大模型研发基础设施概览

大模型Al新时代的基础设施

目录

04

05

03

Jared,etal.2020.

（蓝色：语言模型；绿色：中文语言模型；橘色：多模态模型；黄色：视觉模型）

500

ERNIE3.0Titan(260B)●

Plato-XL(11B)

ERNIE-VILG(10B)

CogView(4B)●DALL-E(1.2B)

viT(630M)viT-G(2B)SwinV2(3B)

0.5

ERN|E1.0(110M)

0.05

2018/9/182019/10/232020/11/262021/12/31

计算规模大

GP3：314ZFLOPS

单卡A100训练需要32年

成本投入大

GP3：数以亿计的训练和推理成本

模型参