教育人工智能风险治理的“负责任创新”转向.pdf

当代教育科学2024年第7期专题研究

教育人工智能风险治理的

6负责任创新”转向

乔云霞

要：随着当前人工智能的飞速发展及其应用于教育领域的不断深化，技术风险日益增加，面对教

摘

育人工智能应用实践中存在的潜在性风险难以识别、技术禁下的“主体身份”难以明晰、教育主体间的信

任机制难以整合、技术理性下的教育“偏见”难以估量等现实症候，“负责任创新”是继“可持续发展”之后的

新技术发展战略理念。以此为视角寻求教育人工智能风险治理转向，主要涉及预测维度的前瞻关注、反思维

度的主体交互、协商维度的包容博奔、反馈维度的动态调节。据此提出教育人工智能风险治理的“负责任创

新”路径：在预测层面构建前瞻性预警机制，以技术赋能实现“攻疾防患”；在反思层面强化交互式角色认同，

以道德物化回归“主体完满”；在协商层面关注包容性协商共治，以集体责任凝聚“信任共识”；在反馈层面提

供动态化调整空间，以价值关怀融合技术偏见”。

关键词：负责任创新；教育；人工智能；风险治理

课题来源：本文系国家重大社科基金项目“人工智能伦理风险防范研究”（项目编号：20ZD040）；江

苏省社科基金重点项目“人工智能的伦理风险及防范研究”（项目编号：20ZXA001)；江苏省研究生科研

创新项目“人工智能教育伦理风险的测评框架及防范机制研究”（项目编号：KYCX24_0332）；中央高校

基本科研业务费专项资金资助（项目编号：2242023S10004）的研究成果之一。

作者简介：乔云霞，东南大学人文学院博士研究生（江苏南京211189）

2022年末问世的一款由OpenAI开发的消费级“技术负能”。美国社会学家查理斯·培罗等人指出，

别的强人工智能应用一ChatGPT引发火热讨论。现代科学技术被认为是促进社会进步发展的决定因

它成为引领新一轮科技革命和产业变革的重要驱动素与根本动力的同时也正成为当代最大的社会风险

力，不断完善的人工智能技术催生了大批新产品、新源[21，“人工智能在给人类带来巨大好处的同时，也

技术、新业态和新模式，也为教育现代化带来更多可伴随着可怕的风险”[3]。面对人工智能技术带来的不

能性。习近平总书记强调，“中国高度重视人工智能确定性与高风险性，国家新一代人工智能治理专业

对教育的深刻影响，积极推动人工智能和教育深度委员会发布的《新一代人工智能治理原则一发展负

融合，促进教育变革创新”。1然而不可忽视的是，随责任的人工智能》从负责任角度为人工智能风险治

着人工智能技术于教育领域的深人应用，工具性思理提出框架和行动指南。由此可见，内嵌“责任”于技

维与人本性理念的碰撞在教学过程中引起价值遮术创新议题的必要性呕待揭示，发展“负责任”的教

蔽、隐私泄漏、人性隐化等风险，使得“技术赋能”变育人工智能成为风险治理的核心议题，在教育总体

-19-

专题研究2024年第7期当代教育科学

发展建设过程中占据重要位置。基于此，本研究从负识别的潜在性风险成为无法超越“科林格里奇困境”

责任创新视阈下对教育人工智能进行审视，厘清人(CollingridgesDilemma)的根因。

工智能技术于教育领域应用背景下风险存在的现实(二)技术禁铟下的“主体身份难以明晰

症候，以期探寻当下教育人工智能风险治理的可行当前，人工智能技术以指数级别的延伸速度将

路径。触角扩展至现实生活的各个方面。作为人类主体意

一、教育人工智能风险的现实症候志的客体化对象，人工智能在对人类智能的大脑结

人工智能的每一次进步都体现了人类认知的构和功能进行模拟的同时形成了程序性系统在认知

飞跃式进展，人们对人工智能变革教育的未来图景层面所特有