20230728-AI模型研究第二期-LLAMA_2与GPT_4对比分析，深度探析两大技术优势与应用前景-中信建投-32页.pdf

证券研究报告·量化深度

LLAMA-2与GPT-4对比分析，深度

多因子与ESG策略

探析两大技术优势与应用前景

——AI模型研究第二期

核心观点王宏

本篇报告比较了LLAMA2和GPT-4这两个模型。LLAMA2采用了预wanghongdcq@

规范化和SwiGLU激活函数等优化措施，在常识推理和知识面方SAC编号：S1440523070008

面表现出优异的性能。GPT-4是一个规模更大的混合专家模型，

具备多语言多模态输入能力。它的代码解释器为解决模型在数研究助理：徐建华

学和语言方面的固有弱点提供了有效的方法，使其在数据分析xujianhua@

和处理中展现出高超的能力。尽管两者在性能和安全性方面都

有改进，但仍存在一定局限性。随着技术的进步，自然语言处研究助理：陈添奕

理领域有望迎来更多突破和创新，为人工智能的应用带来更广chentianyi@

阔的前景。

主要结论发布日期：2023年07月28日

面对本报告综合比较了LLAMA2和GPT-4两个重要的自然语言

处理模型。LLAMA2是LLAMA2系列预训练语言模型的新版本，采

用了预规范化、SwiGLU激活函数和旋转位置嵌入等优化技术，

通过监督微调和强化学习优化。它在常识推理、知识面、阅读

理解和数学能力等任务上表现优异，并在综合基准测试中优于相关研究报告

多数开源模型。GPT-4是GPT-3的升级版，能够接受图像和文本基于深度强化学习的沪深300选股——

23.07.11

输入，并生成文本输出。GPT-4基于Transformer的模型，在多AI模型研究第一期

23.05.12AI社会责任影响——ESG投资系列七

模态输入输出、语言理解和生成等方面展现出强大能力。代码

解释器的多功能性使其在数据分析和处理中表现出高超的能23.04.212023年中期投资策略报告：AI赛道拥

挤，ESG与价值投资优势凸显

力，为用户提供了便捷和高效的解决方案。

在性能方面，LLAMA2在常识推理、知识面和阅读理解方面

表现突出，但在某些编码任务上稍逊于GPT-4。GPT-4在多模态

任务上表现出色，并展示了卓越的语言理解和生成能力。

安全性方面，LLAMA2经过安全微调和上下文蒸馏技术的应

用，对对抗性prompt处理性能有显著提高，但对用户查询可能

过度敏感。经过6个月的安全改进，GPT-4对于不允许内容的请

求的回应可能性降低了82%，对真实回应的可能性提高了40%。

本研究的主要结论是LLAMA2和GPT-4都代表了自然语言处理

领域的重要进展，它们在不同任务和应用中展现了强大的潜

力。LLAMA2在常识推理和知识面上表现出色，而GPT-4则凭借其

规模庞大和多模态处理能力，具备在更广泛任务和领域中发挥

优势的潜力。这两个模型的发展为人工智能技术的应用带来了

更多可能性。然而，它们在性能和