清华社课件人工智能基础及应用（Python微课版）第8 大模型简介和历史.pptxVIP

大模型简介和发展史周元哲西安邮电大学

大模型（英文为“FoundationModel”）是指具有庞大的参数规模和复杂程度的机器学习模型，这些模型可以在训练过程中处理大规模的数据集，并且能够提供更高的预测能力和准确性。大模型通常需要大量的计算资源和更长的训练时间大模型可以被分为多种类型，其中一类就是大语言模型（LLM，LargeLanguageModel），另一类则是图像、语音和推荐等领域的大模型。大语言模型主要用于处理自然语言处理任务，例如文本分类、情感分析、机器翻译等，而大模型在图像领域可以用于图像分类、目标检测等任务，在语音领域可以用于语音识别、语音合成等任务，在推荐领域则可以用于个性化推荐、广告推荐等任务大模型的概念

在深度学习领域，大模型通常是具有数百万到数十亿甚至上万亿参数的神经网络模型比如，2020年，OpenAI公司推出了GPT-3，模型参数规模达到了1750亿，2023年3月发布的GPT-4的参数规模是GPT-3的10倍以上，达到1.8万亿，2021年11月阿里推出的M6模型的参数量达10万亿这些模型需要大量的计算资源和存储空间来训练和存储，并且往往需要进行分布式计算和特殊的硬件加速技术。简单来讲，大模型就是用大数据模型和算法进行训练的模型，它能够捕捉到大规模数据中的复杂模式和规律，从而预测出更加准确的结果大模型的“大”的特点体现在：参数数量庞大训练