基于4R危机管理模型的教育人工智能伦理风险防范体系构建.pdf

理论与争鸣2024.9 总第452期 

TheoryofEducationalTechnology中国电化教育

文章编号:1006—9860(2024)09—0032—009

基于4R危机管理模型的教育人工智能伦理风险

防范体系构建*

1121

王佑镁，利朵，王旦，柳晨晨

1.温州大学 大数据与智慧教育研究中心，浙江 温州 325035

2.华东师范大学 教育信息技术学系，上海 200062

摘要：人工智能技术的快速发展正深刻影响和改变教育教学领域。因其智能化、自主性和交互性特点，教育人工智能

应用带来诸多便利和优势的同时，也引发了诸多伦理风险和挑战，需要谨慎应对和积极解决。基于SHEL风控模型，教育人

工智能应用的伦理风险可归纳为软件相关、硬件相关、环境相关和人件相关四类风险，伦理风险防范现存三个短板急需化

解；借鉴4R危机管理模型，该文构建了一个多方参与、全程管理、高效协同的伦理风险防范体系，设计四层实践路径，并

结合实践阐述了风险防范的实现方式，以创新地应对教育人工智能应用的伦理风险防范问题，助推教育人工智能的可持续

健康发展。

关键词：教育人工智能；伦理风险；SHEL风控模型；4R危机管理模型

中图分类号：G434文献标识码：A

* 本文系国家社会科学基金教育学重大课题“新一代人工智能对教育的影响研究”(课题编号：VGA230012)研究成果。

的防范模式。本文旨在探讨构建一个多方参与、全程管

一、引言

理、高效协同的教育人工智能伦理风险防范体系，可以

当前，新一代人工智能已广泛应用于多个领域，在更好地识别、评估和缓解这些风险，确保教育人工智能

教育领域的应用和成就尤为显著，特别是以ChatGPT、可持续健康应用。

Gemini、文心一言、讯飞星火为代表的人工智能大模型

[1]二、教育人工智能伦理风险问题及防范现状

技术迅猛发展，对教育模式产生深刻影响。2024年2

月15日，OpenAI发布了视频生成模型Sora，以逼真、稳(一)教育人工智能主要伦理风险问题

定、持久的视频生成效果惊艳世界。Sora凭借提供高质 人工智能的广泛应用，变革了原有对教育的解读、

量且定制化的视频内容，将极大地丰富并改进教育领域[6]

反思及期望，进而引发混乱与焦虑。人工智能在教育

的教学资源与方法，为学生们打造更为生动的学习体领域的应用虽然提高了教学效率和提供了个性化学习体

验，引领教育进入一个全新的纪元。基于人工智能的个验，但也引发了隐私泄露、算法偏见、教育不公平等一

[2]

性化学习与创新教育，将塑造教育发展新趋势。系列伦理问题。吴永和等将伦理问题归纳为个人伦理、

教育人工智能通过促进学生个性化学习、帮助教