教育领域生成式人工智能应用的伦理风险管理框架研究.pdf

电化教育研究

DOI:10.13811/ki.eer.2024.10.004理论探讨

教育领域生成式人工智能应用的

伦理风险管理框架研究

王佑镁，王欣颖，柳晨晨

（温州大学大数据与智慧教育研究中心，浙江温州325035）

[摘要]生成式人工智能对内容生产与传播产生了革命性影响，教育领域进入了智能化与风险性并存的人机协同

时代，教育人工智能应用伦理风险频繁发生，急需通过标准化的风险评估工具进行科学管控。文章从技术与教育两个向

度出发，将教育领域生成式人工智能应用的伦理风险归纳为技术本体风险、教育数据风险、机器算法风险和教育应用风

险四大类。借鉴ISO31000风险管理标准与应用指南，搭建“风险识别—风险分析—风险评估—风险应对”四级流程的伦

理风险管理框架。构建风险源检查表，以风险矩阵为主要评估工具，在实践中统计得出各类伦理风险综合等级。教育领

域生成式人工智能应用的伦理风险管理框架，将为教育教学有效实施伦理风险管理工作提供借鉴价值。

[关键词]生成式人工智能；伦理风险；教育人工智能；风险管理；风险评估

[中图分类号]G434[文献标志码]A

[作者简介]王佑镁（1974—），男，江西吉安人。教授，博士，主要从事人工智能教育、人工智能伦理风险研究。E-mail：

wangyoumei@126.com。

果缺乏公众参与及政府必要的保障和监管，人工智能

一、问题的提出

就无法完全融入教育[4]。我国发布《生成式人工智能服

年初，的发布重燃公众对生成式人工务管理暂行办法》，强调生成式人工智能应当遵守法律

2024Sora

智能的关注。作为一种视觉生成式人工智能，不法规，尊重社会公德和伦理道德[5]。因此，需要在伦理风

Sora

仅具备理解人类话语能力，还能模拟物理世界规则，险发生之前着手开展风险管理行动，以提高生成式人

在某种程度上改变了教育资源的呈现方式。生成式人工智能在教育领域应用的科学性，实现良性发展。

工智能既能够以教为主，依据教学目标生成创作型教伴随着技术智能化与自主性的发展以及教育主

学素材，辅助教师设计有创新性的教学活动[1]；又能够观性强、复杂性突出的特点，教育领域生成式人工智

以学为主，根据学生能力和进度给予合适的指导和反能应用的伦理风险管理始终是一大难题，亟待管控化

馈，拓展学生的思维和理解能力；还能够以管为主，为教解。目前，教育领域的风险评估主要依靠专家判断或

育治理提供支持，