- 1、本文档共7页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
02
02 2023/07/DTPT
生成式人工智能技术对
通信行业的影响研究
0引言
自2022年11月问世以来,ChatGPT在短短2个月内便引爆市场,达成1亿月活,成为历史上用户增速最快的应用软件。进入2023年,中国市场也同样爆发,截至目前,据不完全统计,中国市场已经出现近百款由科技厂商、高校、科研院所等不同主体发布的类似产品服务。可以预见,2023年下半年,相关的产品技术将继续保持快速发展,而与之互补的解决方案也将快速涌现。尤其是,ChatGPT的支撑技术,即所谓的“大模型”以及更广泛的生成式人工智能,将在中长期
——————————
收稿日期:2023-05-06
对社会经济产生变革性影响。生成式人工智能(AI)和传统AI之间的最大区别
在于,传统AI通常仅把AI当做“分类器”,而生成式AI
则把AI当做“生成器”,用来创造全新的内容,包括文
字内容、图像内容、软件代码、数字人、音视频和产品
设计,改进或改变现有内容,创建新的数据元素,以及为现实世界中的对象建立新模型等,打破了创造和艺术是人类专属领域的这一局面,也为人工智能的进一步规模化应用提供了新的强劲动力[1-2]。
1生成式AI技术发展溯源与展望
生成式AI的工作原理是针对某个对象生成大量变体,然后筛选出具备有用目标特征的变体。虽然生
成式AI已经存在和应用了多年,但直到以Trans?former为技术底层的大模型的出现,尤其是大语言模型(LargeLanguageModel,LLM)的出现,才让生成式AI真正实现了爆发式发展,使其具备了跨时代的重塑商业模式的巨大潜力。理清生成式AI与大模型之间的关系,可以帮助企业认清生成式AI发展潜力价值。1.1大模型与生成式AI的关系
生成式AI可以被看作是大模型的一个成功应用方向,展现了人工智能技术的巨大潜力。相对于大模型的基础性,生成式AI作为新兴应用能够直接对企业业务产生影响,也是当前人工智能发展的全新里程碑。生成式AI使用了许多不断发展的技术。近期,大模型(如OpenAI的GPT-4和商汤的“商量SenseChat”)获得了更多关注,而生成对抗网络(GAN)和变分自编码器(VAE)等技术依然在发展,此外,其他技术也得到了应用,如递归神经网络(RNN)和强化学习(RL)等。
以ChatGPT为代表的生成式AI应用,则是大语言模型(GPT-3.5)驱动的对话式聊天机器人,大语言模型使其具有令人印象深刻的自然语言理解和生成能力,具备生成各种格式和风格的文字回答等能力[3-4]。整体来看,大模型是生成式AI实现具有颠覆式创新能力的底层技术基础,但并不是唯一的技术构成;生成式AI作为大模型的应用方向之一,具有更加宽泛的应用范畴。通过图1可以进一步了解这几个技术概念之间的关系。
1.2大模型是当前生成式AI创新性发展的底层支撑
谷歌的一篇里程碑式的论文《AttentionisAllYouNeed》,首次向人们介绍了一种新型的采用自注意力
机制的深度学习模型——Transformer,进而引发了大模型的创新性发展。简单而言,Transformer具有更高的可并行性,更好地利用GPU进行加速,降低模型的训练时间。另一方面,尽管最开始Transformer的提出是被用来解决自然语言的神经网络,但是其注意力机
制可以推广到更多领域,包括计算机视觉等。由此,Transformer为预训练模型的兴起奠定了基础,随着模型的规模越来越大,神经网络开始出现“智能涌现”,这也成为大模型拉开通用人工智能序幕的标志[5-7]。
大模型,也可以称之为基础模型,是人工智能预训练大模型的统称,即在大规模未标记数据集上完成预训练后,仅需少量数据的微调甚至无需微调就能直接支撑各类应用,这些模型通常具有多层神经网络结构,并使用高级的优化算法和计算资源进行训练。
如图2所示,尽管早期的大模型最受关注的领域是大语言模型,但是随着微调技术的不断发展,相应的细分领域的大模型也不断推出,包括自然语言到代码翻译(如OpenAICodex),以及文生图(如商汤“秒画SenseMirage”)。与此同时,随着人工智能在智慧城市、自动驾驶等应用场景的不断覆盖,视觉大模型也成为值得关注的领域。[8-9]
2生成式AI的应用价值
创造力一直是人类的专属领域,生成式AI打破
文档评论(0)