ChatGPT的技术发展路径和带来的影响-2023.3-31页.pdf

ChatGPT的技术发展路径和带来的影响 2023-03 目 01 ：人工智能和NLP发展路径 录 C 02 ：GPT系列模型发展路径 O N 03 ：ChatGPT技术原理解析 T E N 04 ：ChatGPT的影响和意义 T 人工智能技术发展脉络 人工智能诞生最早可以追溯到1956年的感知机模型，经过近70年的发展，已经渗透到各行各业。 2011年之前 • 模型简单 受制于当时计算机硬件的发展，模型普遍简单，能力也相对较弱 • 场景局限 模型只能处理单一场景，通用能力非常弱，导致成本过高。 • 人工干预 往往需要如制定规则，词表，标注样本等大量人工工作。 放置示意图 2012年至今 • 大模型 得益于底层技术原理的突破和硬件算力的发展，模型越来越大，GPT3 （2020年）达到了惊人的1750亿个参数 （一般人脑有神经元120到140 亿个） • 大数据 庞大的模型需要对应于海量的数据，GPT3使用的数据量已达到45TB ， 包括了多种主流语言 • 多模态 语音，文字，图像之间不再存在明显壁垒，模型处理复杂场景的能力明 显增加 3 人工智能的任务类型 一般来说，人工智能处理的任务可以分为两类： 1.决策式：人工智能回答 “选择题”，模型主要处理诸如：判别，分类，排序等任务。 2.生成式：人工智能回答 “问答题”，需要模型根据输入，自动生成一些新内容 （客观世界可能从 未出现）。 4 NLP发展的技术路径 自然语言处理 （NLP，Natural Language Processing）是研究人与计算机交互的语言问题的一