AIGC视域下数字教育产品的四维风险矩阵与治理框架.pdfVIP

童莉莉,曾佳,底颖

专题AIGC视域下数字教育产品的四维风险矩阵与治理框架

聚焦现代远程教育研究,2024,36(2)

AIGC视域下数字教育产品的四维风险矩阵与

治理框架

□童莉莉曾佳底颖

——————————————————————————————————————————

摘要：数字教育是数字中国的重要组成部分。随着生成式人工智能在教育领域的快速深入应用，数字教育产

品已从教育APP、小程序、云平台等成熟形态迅速衍生出大模型、虚拟机器人等创新形态。AIGC在为教育提供

便捷的家校社联系、多语种的流畅交互、高效率的阅读批改等技术红利的同时，仍然面临资源质量良莠不齐、信

息无序扩散、算法设计与人的认知发展弱关联等挑战。为此，亟需从社会定义范式和行为计算范式的双重视角来

构建一种贯通“数字资源—信息传播—算法设计—认知评估”的四维风险矩阵，以定性和定量分析AIGC教育应

用的潜在风险。同时亦需从“监管者—开发者—使用者”的主体协同视角构建治理框架，通过行业应用准入审查

和服务集群常态化测评的路径来输出决策支持和治理建议。该四维风险矩阵和治理架构可为政府监管者、家校使

用者和产品开发者推进AIGC良性应用生态提供重要参考。

关键词：生成式人工智能；数字教育产品；风险矩阵；教育治理

中图分类号：G434文献标识码：A文章编号：1009-5195（2024）02-0012-08doi10.3969/j.issn.1009-5195.2024.02.002

——————————————————————————————————————————

基金项目：2022年度国家重点研发计划项目“互联网教育应用的行为感知与风险监测关键技术研究”

（2022YFC3303500）；2022年度国家自然科学基金面上项目“基于领域适应算法的人机协作学习能力泛化关键技

术研究”。

作者简介：童莉莉，博士，副教授，硕士生导师，北京师范大学教育学部，互联网教育智能技术及应用国家工

程研究中心（北京100875）；曾佳、底颖，硕士研究生，北京师范大学教育学部（北京100875）。

教育硬件等数字教育类产品用户规模达到3.14亿

一、数字教育产品的新趋势与新挑战

人，市场规模高达3620亿元，增幅分别达到了

2023年2月13日，第一届世界数字教育大会5.36%和12.42%。国内仅教育类APP的数量就超过

在北京开幕，大会以“数字变革与教育未来”为了15万款。2023年GPT（GenerativePre-Trained

主题，首次对“数字教育”的内涵、发展目标和Transformer，即生成式预训练Transformer模型）火

路径做了系统性阐述。数字教育正是在数字技术爆全球，百度的文心一言、抖音的云雀大模型、智

与教育深度融合的背景下产生的，其发展目标涵盖谱AI的智谱清言等国内8家大模型产品成为新一代

6个方面：一是构建终身教育体系，二是改革人才AIGC（AI-GeneratedContent，即人工智能生成内

培养模式，三是赋能教学与评测，四是支撑办学与容）的弄潮者，其中也纳含了多种数字教育应用内

治理，五是创新管理与保障，六是注重隐私与安全容（童莉莉，2024）。

（杨宗凯，2023）。而企业、机构、高校形成多级联通过运用大数据和人工智能等核心数字技术，

动，紧密围绕数字技术的创新运用和数据的集成智能学伴、AI助教等个性实用的新应用模块正在

整合，开展基于大数据驱动、人工智能辅助的教演化成形态多样的数字教育产品。表1呈现了提供

育分析与决策，则是支撑好办学与治理这一目标教育服务的APP、小程序、教学云平台、学科资源

的重要行动。库、大模型等不同类型的数字教育产品的使用功

当前，来自市场的统计数据显示：2022年，能、演化动因等，揭示了智能技术对数字教育产品

我国在线教育、知识付费、在线阅读、智慧教育、的变革与影响。学科或艺术