生成式人工智能融入高等教育生态系统的风险表征、预警及化解.pdf

Vol.34No.52024

生成式人工智能融入高等教育生态系统的风险

表征、预警及化解*

黄蓓蓓宋子昀钱小龙[通讯作者]

（南通大学未来教育研究所，江苏南通226019）

摘要：在生成式人工智能迅猛发展的背景下，认识、防范和化解生成式人工智能给高等教育生态系统带来的教

育风险迫在眉睫。对此，文章首先剖析了生成式人工智能融入高等教育生态系统的风险表征，主要表现为师生

主权消解、知识内容扭曲、安全包容破坏和人才培养异化。随后，文章构建了由风险预警主体、风险预警内容、

风险预警保障、风险预警流程四个模块组成的生成式人工智能融入高等教育生态系统的风险预警机制。最后，

文章提出从激发主体意识、鉴别知识内容、优化数字环境、培养创新人才等方面入手，来化解生成式人工智能

融入高等教育生态系统的风险。文章的研究可为生成式人工智能教育风险治理提供理论指导，并推动生成式人

工智能在高等教育中的安全应用，从而为高等教育数字化转型和高质量发展保驾护航。

关键词：生成式人工智能；ChatGPT；高等教育生态系统；教育风险；风险预警

【中图分类号】G40-057【文献标识码】A【论文编号】1009—8097（2024）05—0016—11【DOI】10.3969/j.issn.1009-8097.2024.05.002

生成式人工智能（GenerativeArtificialIntelligence，GAI）的蓬勃发展，促进了互联网时代

知识生产模式的变革，也为教育创新与变革增添了新动力。生成式人工智能是一种人工智能技

[1]

术，其利用深度学习模型生成类似人类的内容，以响应复杂多样的提示。ChatGPT、GoogleBard、

文心一言、通义千问等，都属于典型的生成式人工智能工具。以ChatGPT为代表的生成式人工

[2]

智能粗暴、直接地融入教育生态系统中，引发了系统中不同要素间的“连锁性反应”，而高等

教育生态系统更是首当其冲，技术融入所导致的教育风险已开始涌现。例如，《大西洋月刊》刊

[3]

发的一篇文章直接用“大学论文已不复存在”作为标题，来表达对大学生课程论文作弊的担忧。

[4][5]

此外，ChatGPT会生成伪造的参考文献、捏造的历史事实等，容易误导学生。随着生成式人

工智能在高等教育领域应用的深入，认识、防范和化解其给高等教育生态系统带来的教育风险

迫在眉睫。对此，本研究从风险表征、风险预警、风险化解三个方面展开研究，重点回答生成

式人工智能给高等教育生态系统带来的教育风险有哪些表现、如何提前防范风险以及如何有效

化解风险这三个问题，以期实现新一代人工智能技术在高等教育生态系统中的安全应用。

一生成式人工智能融入高等教育生态系统的风险表征

生态系统是生物之间以及生物与非生物环境之间通过物质循环、能量流动、信息传递形成

的统一体。而高等教育生态系统是高等教育系统内部各要素之间及其与自然、社会环境之间交

[6]

互所形成的开放性、非线性复杂系统。以生态系统的结构和功能为分析维度，生成式人工智能

融入高等教育生态系统的风险主要表现为生态主体层面的师生主权消解风险、生态介体层面的

知识内容扭曲风险、生态环境层面的安全包容破坏风险、生态功能层面的人才培养异化风险。

1师生主权消解，弱化高等教育生态主体

高等教育生态系统的核心主体是学生和教师，其中学生是消费者，教师是生产者。师生主

16

Vol.34No.52024

权消解风险是指生成式人工智能在教育领域的过度应用，可能会使学生和教师过度依赖技术，

从而消解其教育主体地位，让学生和教师逐渐成为被技术支配的延伸客体，具体表现为：①学

生学习主体性消解风险。与基础教育相比，高等教育更强调学生的自主学习。生成式人工智能

采用便捷的对话问答方式，能简化信息的获取过程，技术的频繁使用容易让学生产生一定的