2023年大语言研究报告.docxVIP

2023年 ChatGPT 研究报告 第一章 行业概况 ChatGPT是由OpenAI 团队研发创造，OpenAI是由创业家埃隆马斯克、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得蒂尔等人于2015年在旧金山创立的一家非盈利的AI研究公司，拥有多位硅谷重量级人物的资金支持，启动资金高达10亿美金；OpenAI的创立目标是与其它机构合作进行AI的相关研究，并开放研究成果以促进AI技术的发展。 图 OpenAI发展历程 资料来源：资产信息网 千际投行 OpenAI官网 国泰君安证券研究 GPT模型就是一种自然语言处理（NLP）模型，使用多层变换器（Transformer）回去预测下一个单词的概率分布，通过训练在大型文本语料库上自学至的语言模式回去分解成自然语言文本。从 GPT-1 至 GPT-3 智能化程度不断提升，ChatGPT 的到来也就是 GPT-4 正式宣布正式宣布面世之前的序章。 根据UBS发布的研报说明，ChatGPT在1月份的月活跃用户数已少于1亿，变成史上用户数快速增长最快的消费者应用领域。根据Similar Web的数据，1月份平均值每天存多于1300万名单一制访问者使用ChatGPT，就是去年12月份的两倍多。 由于ChatGPT囊括了更多主题的数据，能够处理更多小众主题。ChatGPT能力范围可以全面全面覆盖回答问题、撰写文章、文本全文、语言译者和分解成计算机代码等任务。ChatGPT嵌入了人类意见反馈强化自学以及人工监督微调，因而具备了心智上下文、连贯性等诸多一流特征，插入了海量应用领域场景。 截止2023年2月15日，iFinD ChatGPT 成分股个数为12。 图 ChatGPT成分股 资料来源：资产信息网 千际投行 iFinD 第二章 商业模式和技术发展 2.1 商业模式 2022年以来，AIGC（AI 分解成内容）、ChatGPT的“出圈”说明出进度表训练大模型性能进步十分迅速，行业步入大模型主导的技术创新周期。 图 AI大模型产业链 资料来源：资产信息网 千际投行 华泰研究 从全流程视角来看，以ChatGPT为代表的的AI大模型产业企业，首先自行生产或买下算力基础设施等设备，其次通过独立自主基础模型研发、模型优化与改进两步骤顺利完成模型调教和软件优化，最终对成品软件进行出售，通过产品运营和商业落地，提升专业用户生产力。 1）算力基础设施：AI云服务由现有云服务厂商提供更多更多，为AIGC提供更多更多网络资源服务。大算力芯片的主要玩家为英伟达等海外半导体巨头，国内厂商正在冲上。 2）基础模型研发：低成本和高技术壁垒导致科技巨头与科研机构变成主要玩家。科技巨头的基础模型研发成果可以内化为公司一系列业务提供更多更多大力支持。 3）模型优化与改进：对模型进行行业化扩建，提供更多更多API或扩建后的模型。实际上这一功能由产业链上一环节的基础模型研发或者下一环节的应用软件层分摊，尚未看到仅专门从事这一环节的公司。 4）应用软件：特别强调产品运营和商业落地能力，相近SaaS公司。这一环节在国内外已经涌现出较多初创公司，其价值就是提升专业用户生产力，商业模式将主要源于于浏览制收费，因此去来衡量指标与SaaS公司一致，为ARR（年度经常性总收入）。以中美浏览意愿差异导致的SaaS发展差异为鉴，国内的AIGC应用软件层商业模式若想赢得检验尚需观测。 利润影响因素： 软件成品的价格。价格越高，盈利能力越强 基础设施的价格。比如说算力支持系统等，轻而易举关系到盈利水平，这部分属于气门成本。 厂房设备固定资产、人工费、运营费和、运输费等。这些成本费用相对来说比较刚性。 研发成本、模型研发及训练成本。模型在生产量前的调教、训练和反反复复测试，与企业的研发能力轻而易举有关。 时程运营维护费用。这部分成本在成品销售后影响企业的经营成本。 图：大模型训练成本估算 资料来源：资产信息网 千际投行 iFinD 华泰研究 2.2 技术发展 1、自然语言技术处理效能提升：ChatGPT 属于自然语言处理领域，与早期的自然语言技术较之，ChatGPT 采用大模型进行训练，并重新加入人工意见反馈进一步进一步增强自学(RLHF)方法，同时同时实现了效果的明显提升。 2017 年后，应用领域范围最广为的就是BERT 和GPT 模型以及在这些模型基础上做出的改进模型。随着人工意见反馈进一步进一步增强自学(RLHF)方法的重新加入，模型能够在与人类标注者互动时通过人类的意见反馈进行强化自学。人类标注者则可以对初始模型分解成的结果进行修正、比较和排序，帮助模型进行训练。ChatGPT 在效果上赢得重大突破，在语言分解成领域形成优势。 2、AI应用领域场景技术创新：ChatGPT 属于生成式AI