生成式人工智能应用于学术研究的风险及其预防机制.docx

2024年第3期总第359期

黑龙江高教研究

HeilongjiangResearchesonHigherEducation

No.3,2024

SerialNo.359

生成式人工智能应用于学术研究的风险及其预防机制

周莎，张尚

(陕西师范大学，陕西西安710062)

摘要：生成式人工智能是利用计算机模拟人类的智能行为所开发的相应实践理论与技术，其在各个领域的爆发应用为未来人类的发展提供了无限的想象空间，与此同时，虚假信息、学术伦理、劳动替代等问题也引发全球热议。实践地看，生成式人工智能在当前的学术研究中可能存在人文性缺失、科学性缺失、依赖性成瘾、原创性与批判性缺失等风险。为更好地将人工智能应用于学术研究并使其得到可持续发展，需要规范生成式人工智能使用，助推学术研究的向善发展；优化生成式人工智能参数，鉴别学术研究伪成立性；调控生成式人工智能发展，加强学术研究的前瞻预防。

关键词：生成式；人工智能；学术研究；ChatGPT

中图分类号：G644文献标志码：A文章编号：1003-2614(2024)03-0001-07

生成式人工智能(GenerativeArtificialIntelligence)是一种“能够模拟人类的创造性思维展现出强大的类人能力”的计算机大型语言模型，它能根据用户输入的指令，通过统计与算法，输出新的文本、图像、音频、视频、代码等内容。Chat-GPT(ChatGenerativePre-trainedTransformer)是生成式人工智能的集大成者，它由美国人工智能公司OpenAI于2022年11月30日正式发布，并迅速成为历史上用户数量呈现指数增长的应用聊天机器人。ChatGPT不断推陈出新，目前已更新到ChatGPT-4,其更新迭代的迅猛与成功的势态把生成式人工智能逼近通用智能的重大问题推到了前台1。面对迅猛发展的生成式人工智能技术，各国政府与世界机构组织均有监管动作。2023年4月11日至8月15日，我国迅速起草、审议、公布并实施了《生成式人工智能服务管理暂行办法》,提出“对生成式人工智能服务实行包容审慎和分类分级监管”原则[2][3];2023年4月30日，西方七国(美国、英国、法国、德国、日本、意大利和加拿大)集团数字与技术部长联合声明对生成式人工智能技术提出了“法治”“正当程序”“民主”“尊重人权”“利用创新机会”等五项原则，力争兼顾开发、利用与监管的效能。这些举措表明：监管部门对待生成式人工智能技术新产品的态度是在可控状态下发展，以规范应用为手段，以促良性发展为目的。

与传统的人工智能不同，生成式人工智能既能将输入数据进行处理和分类，也能将现有数据转化生成新的数据，还具备与人类进行对话的基本能力，展现出极强的类似人类创

造力的功能。简言之，生成式人工智能能够提供“问题提示-算法生成-会话响应”的基本服务[4]。虽然这种服务在科研领域表现为能够帮助科研工作者在海量信息数据与强大的算法加持下进行深度学习和高效研究，但也因其便捷性和创造性的独特属性，又会引发科研工作者对于学术研究的诸多争议，乃至造成学术失真等严重影响。当前，国内外多家学术期刊、出版机构禁止将ChatGPT列为论文合著者，而针对这些问题，学术界目前最主要的应对措施就是政策性封堵、禁止使用或限制性使用。封堵、禁止或限制并不是解决生成式人工智能可能诱发的学术诚信问题的最终办法，而是要以一种辩证的态度审议这一现象，通过生成式人工智能的本质及特征，从其应用于学术研究所造成的可能风险出发，深层次发掘造成这些风险的原因，由此提供一种建基于理性思想方案上的可操作路径，从而为我们正确理解与科学地将生成式人工智能用于学术研究提供解释依据与行动范式。

一、生成式人工智能的内涵特征及其应用于学术研究的风险

(一)生成式人工智能的内涵

随着ChatGPT等人工智能机器人的兴起、普及及其各种深度学习和强化学习之类AI算法的快速迭代发展，生成式人工智能已经展示了多领域、多学科的类似人类响应的非凡能力。生成式人工智能的内涵已经从传统的基于规则或统计的学习模型转变为深度学习模型，而这种转变同时也引起

收稿日期：2023-07-12

作者简介：周莎，陕西师范大学教育学部博士研究生，研究方向：学校课程与教学；张尚，陕西师范大学教育学部博士研究生，研究方向：学校课程与教学。

2