生成式人工智能时代学术信息失序问题治理研究——以ChatGPT为例.pdf

生成式人工智能时代学术信息失序问题治理研究—以ChatGPT为例

生成式人工智能时代学术信息失序

问题治理研究—以ChatGPT为例

■文/聂冰、王婷、BradyD.Lund

摘要

以ChatGPT为代表的生成式人工智能应用是人工智能技术快速发展的自然结

果，既为人类社会的学术研究工作带来诸多助力，也提出了学术信息失序这一

巨大挑战。生成式人工智能时代学术信息失序问题主要表现为作者署名和版权

问题、虚假引用问题和学术伦理道德问题。为应对这些问题，国家应不断完善

政策法规的监督机制，人工智能行业也应主动承担信息标注和识别的技术发展

责任，高校等学术研究机构则应不断加强学术研究人员的信息素养教育，通过

以上三方面达成对学术信息失序问题的有效治理。

基金项目：本文系2023年度浙江省教育科学规划一般规划课题“后真相时代大学生虚假信息甄别能力培育路径研究”（项目编号：

2023SCG390）的研究成果之一。

机器人产业|2024年第1期103

专题研究MONOGRAPHICTOPICS

引言学术信息失序的概念界定

人工智能（Artificialintelligence,信息失序（informationdisorder）是

AI）的提出始于20世纪50年代，作指信息生成和流通中的一种失范状态，国

为涉及计算机科学、数学、心理学等多内外学术界对信息失序的概念描述较为多

个领域的交叉学科，历经困境和突破，样化，包括虚假信息（disinformation）、

人工智能不断向通用人工智能迈进。尤错误信息（misinformation）和恶意信息

[4]

其是近两年在生成式人工智能领域的突（malinformation）等。经过信息生产、

破，更是加速了人工智能技术在人类社传播技术和环境的不断发展变化，以上这

会各个层面的广泛应用。生成式人工智些概念在使用中逐渐交叉融和。具体而言，

能（GenerativeArtificialIntelligence,信息失序泛指有意或无意产生并传播不准

以下简称“生成式AI”）是一种无监确、有误导性或不实信息的状态。

督或部分监督的机器学习框架，它能够“学术”一词在《辞海》中的释义为

通过使用统计数据、概率等来生成人工“较为专门、有系统的学问”，也指使学

产品[1]。当前，随着计算机处理能力的问学科化的过程和方法。学术研究的过程

提高和智能代理的使用，生成式AI已从来都需要大量信息的参与，也必将产生

经借由各种简单易用的平台和APP渗大量的信息和知识，小到一个学术观点、

透进人类社会的方方面面，其中尤以美一条引用文献，大到一篇论文、一本专著。

国人工智能企业OpenAI于2022年11因此，笔者认为“学术信息失序”可以理