- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
ChatGPT 在建筑的应用现状和前景
应用层面来看,ChatGPT 当前更适合文本工作类行业
ChatGPT 是自然语言处理发展的产物。自然语言处理(Natural Language Processing, NLP)作为人工智能的重要研究方向,旨在帮助计算机理解、解释和运用人类语言。回顾发展历程来看,上世纪 50 年代,科学家已经开始进行基于规则的少量数据处理,总体是基于模板和规则的学习的阶段;上世纪 80 年代开始,进入 Machine Learning 的时代,与之前的区别是开始基于一定范围的数据进行参数分类;上世纪 90 年代开始,以CNN、RNN 等为代表的神经网络开始获得突破,开始模仿人脑进行大量数据的标记和训练。2017 年,Ashish Vaswani et.al 在论文《Attention Is All You Need》中提出了一种新的简单架构——Transformer Architecture,这种模型基于注意力机制,不用重复和卷积,因而这些模型在质量上更优,同时更易于并行化,需要的训练时间明显更少。
图1.NLP 发展历程
真格基金,
ChatGPT 能实现的人类意图,来自于机器学习、神经网络以及 Transformer 模型的多种技术模型积累。最早在 2018 年OpenAI 推出 GPT-1,其中大约有 1.17 亿个参数,这一代模型的核心手段是预训练,通过不断的手动标记数据,结合无监督预训练和有监督微调减轻 NLP 中的监督学习,本质上模型是相对 Transformer Architecture 的显著简化;后续的 GPT-2 去掉了GPT-1 中的有监督微调的阶段,转向更通用的系统,最终不需要为每个任务都手动创建标记去训练,GPT-3 的参数数量等相对之前有了极大飞跃,达到 1750 亿个参数,在许多 NLP 数据集上都实现了很强的性能。
图2.ChatGPT 发展历程
Priya Shree《The Journey of Open AI GPT models》,Alec RadFord《Improving Language Understanding by
Generative Pre-Training》,Jan Gorecki《Pair Programming with Large Language Models for Sampling and Estimation of Copulas》,
基于 ChatGPT 神经网络的类型以及训练方法来看,文本类工作的效率有望得到提升。由于 ChatGPT 已经接受了大量的文本训练集,它可以在教育行业中提供大量的语言和知识学习的资源,协助师生之间的交流和学生的评估;金融领域,可以基于大量文本去分析行业的市场情况、风险评估并给出建议等;商业领域,可以帮助去进行一些营销策略的创作、提供客户服务、或者从事数据分析等工作;媒体领域可以协助创意工作者去生产或者编辑脚本、外发的文稿等内容。
表
表1.ChatGPT 有望应用的领域
应用领域 相关形式
自然语言处理 可以用于自然语言生成、自然语言理解、文本摘要、机器翻译等NLP 任务。智能客服 可以作为智能客服机器人的核心,回答客户的问题、提供帮助和建议。
电子商务 可以用于电子商务平台的客服和推荐系统,为客户提供更好的购物体验和更精准的推荐。教育 可以作为辅助教学工具,为学生提供答案解释、学习建议和自适应学习体验。
媒体 可以用于新闻自动化、内容推荐和智能化编辑,帮助媒体更快速、更精准地生产和传播新闻。医疗 可以用于医疗问诊、病历记录、病症分析等任务,帮助医疗机构提高效率和服务质量。
金融 可以用于智能投资、风险评估、客户服务等金融领域任务,帮助更好地服务客户和管理风险。
数据来源: 整理
建筑业涉及到的数据类型众多,所需要的模型更为繁杂
不同类型数据(图片、文本、音频)的处理适用于不同种类的神经网络:
表2.不同种神经网络适用的数据类型有所差异
网络类型
主要原理
应用领域
主流算法
处理对象
卷积神经网络本质上是一个网络间共享权重参数的多
图片分类
AlexNet、VGG、
GoogLeNet、ResNet、
CNN(卷积神经网络)
层复合函数,其共享权值的思想可以大大减小训练参数的数量,因此常被用来训练深层网络并在大规模数据(如图片)的处理中表现出较好的表达能力。
目标识别
DenseNet 等
RCNN、Fast RCNN、 Faster RCNN、Mask RCNN、YOLO、SSD 等
图片、音频、视频等
循环神经网络的主要思想是在网络模型中不同部分进
RNN(循环神
行权值共享使得模型可以扩展到不同样式的样本。循
自然语言处
LSTM、GRU、双向 RNN
序列信号(如文
经网络)
原创力文档


文档评论(0)