清华社课件人工智能基础及应用（Python微课版）第8.1 大模型基本原理和特点.pptxVIP

;;人工智能和大模型是相互关联的。人工智能是研究和开发使机器能够模仿人类智能行为的技术和方法的学科，包括机器学习、自然语言处理、计算机视觉等。而大模型则是指训练过程中使用了大量数据和参数的模型，这些模型包含了大量的知识和规则，能够更好地模拟人类智能行为;;大模型是基于Transformer架构的，这种架构是一种专门用于自然语言处理的“编码-解码器”架构。在训练过程中，大模型将输入的单词以向量的形式传递给神经网络，然后通过网络的编码解码以及自注意力机制，建立起每个单词之间联系的权重。大模型的核心能力在于将输入的每句话中的每个单词与已经编码在模型中的单词进行相关性的计算，并把相关性又编码叠加在每个单词中。这样，大模型能够更好地理解和生成自然文本，同时还能够表现出一定的逻辑思维和推理能力;大模型的学习主要依赖于大量的文本数据。这些数据可以来自互联网、书籍、文章等各种来源。通过对这些数据进行训练，大模型能够学习到自然语言的统计规律和模式;大模型通常使用深度学习中的神经网络，尤其是Transformer结构。这种结构特别适合于处理序列数据（比如文本）。神经网络由多层的神经元组成，每一层都会对数据进行一定的转换和处理;在Transformer架构中，编码器和解码器是两个核心组件。编码器负责将输入的文本转换为一种内部表示，而解码器则负责将这种内部表示转换回文本;这是Transformer的一个关