ChatGPT的工作原理概述.pdfVIP

国际资本市场研报资讯+V: ChatGPT —0— — 0 — 前言 ChatGPT 来 ChatGPT能够自动生成一些读起来表面上甚至像人写的文字的东西，这非 来要要 常了不起，而且出乎意料。但它是如何做到的?为什么它能发挥作用?我 ChatGPT 来 在这里的目的是大致介绍一下ChatGPT内部的情况，然后探讨一下为什 么它能很好地生成我们认为是有意义的文本。 ChatGPT 来OpenAI就 工具，后台对接的是OpenAI和微软的官方接口): / / 来来 我首先要说明一下，我将把重点放在正在发生的事情的大的方向上，虽然 来 我会提到一些工程细节，但我不会深入研究它们。 (我所说的实质内容也 “” LLM ChatGPT 同样适用于目前其他的“大型语言模型”LLM和ChatGPT)。 来ChatGPT 首先要解释的是，ChatGPT从根本上说总是试图对它目前得到的任何文本 “” 来 “” “ 进行“合理的延续”,这里的“合理”是指“在看到人们在数十亿个网页上 来” 所写的东西之后，人们可能会期望某人写出什么”。 - 国际资本市场研报资讯+V: 来 “ ……” 因此，假设我们已经得到了“人工智能最好的是它能去做……”的文本 “The best thing about AI is its ability to” 来 来 人类书写的文本(例如在网络上和数字化书籍中),并找到这个文本的所 —— 有实例——然后看到什么词在接下来的时间里出现了多少。 ChatGPT 来 天 “” 来 本；它寻找在某种意义上“意义匹配”的东西。但最终的结果是，它产生 来 “” 了一个可能出现在后面的词的排序列表，以及“概率”。 learn 4.5% predict 3.5% make 3.2% The best thing about Al is its ability to 3.1% understand do 2.9% 来 ChatGPT 来来 值得注意的是，当ChatGPT做一些事情，比如写一篇文章时，它所做的 “来要” 基本上只是反复询问鉴于到目前为止的文本，下一个词应该是什么? —— 来来 而且每次都增加一个词。 (更准确地说，正如我将解释的那样，它 “” 来来 在添加一个“标记”,这可能只是一个词的一部分，这就是为什么它有时 “” 可以“编造新词”)。 来来 在每一步，它得到一个带有概率的单词列表。但是，它究竟应该选择哪一 要 个来添加到它正在写的文章(或其他什么)中呢?人们可能认为它应该是 “” “” “排名最高”的词(即被分配到最高“概率”的那个)。 - 国际资本市场研报资讯+V: 来 ——