论生成式人工智能服务中的教育风险及其应对——以ChatGPT为例.pdfVIP

ISSN1009-3044E-mail：eduf@

ComputerKnowledgeandTechnology电脑知识与技术

第20卷第11期(2024年4月）ComputerKnowledgeandTechnology电脑知识与技术

http：//

Vol.20,No.11,April2024Tel：+86-551

论生成式人工智能服务中的教育风险及其应对

——以ChatGPT为例

林莉

（广西师范大学教育学部，广西桂林541004)

摘要：随着人工智能技术的迅猛发展，生成式人工智能(AIGC)服务在教育领域的应用也日益广泛。作为AIGC的典型代

表，ChatGPT凭借其强大的底座能力、卓越的思维链推理能力以及实用的零样本能力，在为教育主体赋能、为教育客体赋

权以及为教育过程注入活力的同时，也带来了诸多挑战，包括在法律、伦理、技术等方面的潜在风险。为有效应对这些

教育风险，我们应从法律规范、伦理约束和技术攻关三个维度出发，推动以ChatGPT为代表的生成式人工智能安全风险

治理工作。

关键词：生成式人工智能；ChatGPT；潜在风险；教育风险应对

中图分类号：TP3文献标识码：A

开放科学（资源服务）标识码(OSID)：

文章编号：1009-3044(2024)11-0033-03

自OpenAI于2022年11月30日发布ChatGPT以1.1生成式人工智能的法律风险

来，这款优化对话的语言模型迅速在全球范围内引起

高度关注。2023年4月11日，国家互联网信息办公室1.1.1数据和隐私的泄露

发布了《生成式人工智能服务管理办法（征求意见生成式人工智能系统通常需要大量的数据来进

稿）》，明晰了对生成式人工智能的定义，将其界定为行学习和训练。在课堂中，ChatGPT可能成为“课堂间

“基于算法、模型、规则生成文本、图片、声音、视频、代谍”。为了获得ChatGPT对特定问题的解决方案，师

[1]

码等内容的技术”。生需要输入大量与之相关的数据。生成式AI通过对

一些学者积极肯定ChatGPT的价值，认为其发展历史记录、行为模式和当前情况等日常数据的分析，

将有利于人类的自由与解放，并对其持欢迎态度。然以最小成本和最快速度为师生提供决策支持。然而，

而，也有学者指出ChatGPT在教学应用中可能带来的这种数据收集和处理方式可能引发数据和隐私的泄

负面影响，如信息不准确的风险、对人际互动与同理漏风险。

心培养的不足以及对现有考试评价制度的冲击[2]。这1.1.2知识产权侵犯的风险

些问题进一步引发了关于数据悖论、知识悖论和认识

能力等悖论的讨论[3]。面对人工智能技术的飞速发生成式人工智能在向用户提供回复时，若过度借

展，教育工作者应如何应对ChatGPT在社会和教育领鉴他人作品，则可能引发知识产权侵权问题[5]。Chat‐

域引发的“海啸”？本文将以ChatGPT为例，深入探讨GPT给出的答案通常来源于搜索引擎搜索来的网上