大模型时代生成式AI发展与科技创新范式.pptx

;;

2022年

ChatGPT模型在

InstructGPT的基础上

优化了数据收集设置。ChatGPT在人与人对话的数据集上进行了训练，它以对话方式进行交互，并进行了微调以生成更具吸引力、完善和个性化的响应。;

除采用一系列深度学习新技术外，ChatGPT还

有以下技术特点。

基于Transformer模型的架构：更好的语言建模能力和更高的并行性。

预训练与微调：先在大规模语料库上进行无监督的预训练，再在特定任务上进行微调，可以使得模型具有更好的泛化能力和更高的准确率。

多层架构：模型由多个Transformer层组成，每个层都可以学习不同的特征和语义，从而提高模型的表现。

动态扩展：在预训练过程中逐渐增加模型的层数和参数量，以逐步提高模型的性能。

大规模语料库：使用了大规模语料库进行训练，如维基百科等，使得模型具有更好的语言理解能力和更高的泛化能力。;

市场对于超大模型的看法;

厂商;;

中国人工智能行业市场规模，2021-2027E;;;

知识管理类应用;

销售和营销;

?伴随AI技术升级和大模型成熟，AI绘画与ChatGPT的成功破圈，生成式AI技术迎来发展拐点，行业关注度大幅提升。生成式AI是指基于大模型、生成对抗网络GAN等人工智能技术，通过已有数据寻找规律，并通过适当的泛化能力生成相关内容的技术，可生成如图像、文本、音频、视频等原创内容变体。例如，以ChatGPT、Midjourney、文心一格、商汤商量、Codex为代表的生成式AI应用拥有文本语言理解能力、涌现能力以及思维链推理能力，能够完成文学创作、新闻写作、数理逻辑推算、代码生成、图片生成等多项任务。目前，国内电商、游戏、文娱、设计等行业正在积极使用相关的生成式AI应用来提高自身工作效率，尤其以文生图应用为主。

?生成式AI不仅能够增强并加速下游多领域的设计，而且有潜力“发明”人类可能错过的新设计、新对象。生成式AI有生成大规模、高质量、低成本内容优势，在算力和算法支持下生成大量内容，生成的内容质量将持续超越UGC与PGC。未来有望为各行业提供内容支持并促进其内容繁荣，最大化释放内容生产力。

?文字生成属于发展成熟、易于跨界转化的赛道，而跨模态生成赛道的发展潜力最高。生成式AI应用根据模态划分为文字生成、音频生成、图像生成、视频生成、跨模态生成。语音合成、文本生成、图像属性编辑等技术应用目前较为成熟，跨模态生成、策略生成是高增长潜力的应用场景，在自动驾驶、机器人控制等领域有极高应用价值，随着未来技术不断发展成熟，预计3-5年可实现稳定落地。

大模型发展及相关应用实现落地时间表;

关键

发现;;

基础模型（FoundationModel）是区别生成式人工智能技术栈和之前人工智能的关键。基础模型是斯坦福大学基础模型研究中心创造的术语，它是一个在广泛数据集上预先训练的机器学习模型，可以用于解决一系列问题。基础模型通常经过以下四个阶段的开发，如下所示。

基础模型的开发;

效率

优化计划、研究和产品开发等任务;;;;;;