ChatGPT的技术发展路径和带来的影响.pdf

ChatGPT的技术发展路径和带来的影响

2023-03

目01：人工智能和NLP发展路径

录

C02：GPT系列模型发展路径

O

N03：ChatGPT技术原理解析

T

E

N04：ChatGPT的影响和意义

T

人工智能技术发展脉络

人工智能诞生最早可以追溯到1956年的感知机模型，经过近70年的发展，已经渗透到各行各业。

2011年之前

•模型简单

受制于当时计算机硬件的发展，模型普遍简单，能力也相对较弱

•场景局限

模型只能处理单一场景，通用能力非常弱，导致成本过高。

•人工干预

往往需要如制定规则，词表，标注样本等大量人工工作。

放置示意图

2012年至今

•大模型

得益于底层技术原理的突破和硬件算力的发展，模型越来越大，GPT3

（2020年）达到了惊人的1750亿个参数（一般人脑有神经元120到140

亿个）

•大数据

庞大的模型需要对应于海量的数据，GPT3使用的数据量已达到45TB，

包括了多种主流语言

•多模态

语音，文字，图像之间不再存在明显壁垒，模型处理复杂场景的能力明

显增加

3

人工智能的任务类型

一般来说，人工智能处理的任务可以分为两类：

1.决策式：人工智能回答“选择题”，模型主要处理诸如：判别，分类，排序等任务。

2.生成式：人工智能回答“问答题”，需要模型根据输入，自动生成一些新内容（客观世界可能从

未出现）。

4

NLP发展的技术路径

自然语言处理（NLP，NaturalLanguageProcessing）是研究人与计算机交互的语言问题的一