InfoQ：2024大语言模型能力测评报告.pdfVIP

极客邦科技双数研究院

lnfoQ,研究中心

大语言模型综合能力

测评报告2024

lnfoQ极客传媒

`e”R仔勺氏�.

lnfoQ；研究中心2

..

2023年，全球大模型市场进入爆发阶段

大模型诞生阶段大模型探索阶段大模型爆发阶段

2222/

___＿＿＿一网产一空气＿＿--＿＿＿＿＿＿一－翌气赞气＿＿＿＿＿＿＿＿＿＿--＿空气-0--3一气

7

在诞生阶段，以Transformer为代表的全新在探索期，基千人类反馈的强化学习

在爆发期，大数据、大算力和大算法完美结合，具备了多模

神经网络架构，奠定了大模型的算法架构基(RHLF)、代码预训练、指令微调等开始出

态理解与多类型内容生成能力。

础，使大模型技术的性能得到了显著提升。现，被用于进一步提高推理能力和任务泛化。

20192022

2017

•3.16百度推出可以准确理解语义的ERNIE1.0•11.30OpenAI推出ChatGPT

•6.12谷歌推出用于处理自然语言任务的

•8.21OpenAI发布GPT-2并部分开源

Trans

tormer神经网络架构•10.11谷歌推出BERT模型的两个新版本2023

RoBERTa乔aXLNet•2.7谷歌发布Bar少灯蓝对ChatGPT•4.11阿里云发布通义千问

20182020•2.2•5月百度发布文心大模型3.5

•6.11OpenAI发布GPT-1•11.5OpenAI发布120亿参数图像版GPT-3•5.6科大讯飞发布认知大楼型

•11.22谷歌推出BERT

•2.25FaceBook发布LLaMA-13B•5.11谷歌更新