【名师讲题】“ChatGPT的应用具有很大潜力,但也存在着风险”非连续性文本阅读训练及答案.pdfVIP

1-5小题。

ChatGPT在教育中的使用表示担忧。Alshater（2022）认为ChatGPT存在一

定的局限性，包括对数据的质量存在依赖性、有限的知识领域、伦理问题、过度依赖技术与

存在误用的可能性等。Baidoo-Anu等（2023）也认为，在教育中使用ChatGPT可能存在缺

乏人类的互动、有限的理解、训练数据存在偏差、缺乏创造力、缺乏上下文的理解与泄露隐

私等问题。Qadir（2022）还提出，ChatGPT和其他生成式人工智能系统一样可能会存在偏

见，甚至产生和传播错误信息，并引发一系列伦理问题。当下教育领域最担心的是ChatGPT

会帮助学生完成家庭作业或作弊，从而有损教育公平。总的来说，虽然ChatGPT在教育中的

应用具有很大潜力，但也存在着风险与挑战。

ChatGPT能在多门学科中帮助学生完成学习任务，提高教学成果的完成度与创意感，但

随之而来也引发了学者们对学生学业诚信的担忧。有研究者提出，ChatGPT可能会帮助学生

实施作弊，使教育评估机制失去平衡，导致教育不公平的问题。有研究者通过测试ChatGPT

与真实考生在大学开放性考试中的作答结果后表示，ChatGPT的推出可能导致在线考试和开

放性考试学术诚信的终结，因为ChatGPT的考试答案展现出了高度的批判思维和逻辑思维，

能在很少的输入下生成高度逼真的文本，使学生在考试中作弊成为可能。此外，教务人员也

表示很难区分学生和ChatGPT生成的写作内容，并且当学生使用ChatGPT回答问题时，教务

人员很难充分评估学生的真实理解水平。

诚然，ChatGPT和其他内容生成类模型能为学生提供互动学习，让学生在互动中受益。

2014年的一项研究也证明，与模仿人类情感行为的虚拟导师互动的学生学习效果更好。但

是，学生在多次使用ChatGPT后，很可能会产生一定的依赖心理。尤其在多次使用其协助完

成学习任务并获得较好的成绩后，学生很可能沉迷于其效果。因智能工具产生依赖进而养成

惰性心理是有先例的。如早前多有报道学生依赖作业搜题工具而导致学习成绩下降的问题。

过度依赖在线工具可能降低学生的发展创造力，使其将节省的时间转移至与学习无关的方面。

尽管ChatGPT很像传统的搜索引擎，可以快速提供大量、丰富的学习信息，但其信息的

准确性还无法保证。纽约市教育局就对ChatGPT向学生传达的信息表示了担忧，特别是对其

答案的安全性和准确性提出了疑问。他们还担心使用ChatGPT会导致年轻学生变得自满，致

其缺乏评估信息的必要技能。OpenAI（2022）也承认，ChatGPT有时会回复看似合理但不正

确或荒谬的答案，因为：（1）在反馈学习训练期间，没有真实的信息来源；（2）训练模型较

为谨慎导致它会拒绝可以正确回答的问题；（3）监督训练误导模型的回答。而且，ChatGPT

对学生输入文本的调整或多次输入相同文本十分敏感。它会注重政治正确和道德伦理尊严，

甚至会直率地拒绝回答某些伦理上有偏差的问题。例如，具体评价某个人。又例如，在

ChatGPT中输入想要询问的问题，ChatGPT可以声称不知道答案，但稍作改写就可以回答出

正确的答案。正因如此，教学中使用ChatGPT时，必须是精确询问的文本。教师与学生并不

能完全信任它。还有研究者指出，OpenAI上线ChatGPT时，其训练模型的数据受制于2021

年，对2021年之后的世界认知是有限的，对某些特殊人群的相关问题也知之甚少，尤其是

对理科方面的内容掌握程度较低（Qadir，2022）。此外，ChatGPT无法与活跃的互联网相连

接，无法从社交媒体中获取任何信息，数据集存在封闭性，所以生成不正确的信息是可能的。

如果ChatGPT为学生生成一个围绕特定搜索主题的虚假阅读列表时，那ChatGPT能为教学提

供便利的基础又何在呢？

人工智能伦理是指在道德上约束人工智能开发、管理、应用等应遵守的一切伦理原则和

行为规范。随着人工智能的飞速发展，教育工作者们也必须具有一定的伦理意识。在ChatGPT

为学生提供个性化的教学反馈时，以下三种伦理问题值得注意：数据隐私、偏见性与所有权。

第一，数据隐私。为了获得ChatGPT对特定问题的解决方案，师生需要输入大量与之相关的

数据和资料。ChatGPT在识别数据并为使用者提供满意的答复时，储存的数据却有可能被泄

教育机构尤其是学校对第三方在未经同意的情况下如何正确使用学生