人工智能赋能教育的伦理省思.pdfVIP

江苏社会科学2023年第2期 人工智能赋能教育的伦理省思 王晓敏 刘婵娟 内容提要 人工智能赋能教育是技术发展的时代必然，但在智能技术与教育的融合过程中，教育技术、 师生关系以及教育环境等方面也会产生新的伦理风险。从理论上说，教育技术运用方面的伦理风险，主要 根源于由认知受限而导致的算法黑箱、由文化偏见而引致的算法歧视、由智能技术法制缺位而引发的伦理 治理受阻；师生关系方面的伦理风险，主要根源于教师、学生以及师生等伦理关系的错位；教育环境方面的 伦理风险，主要根源于由价值歧视导致的社会公平正义缺失，从而引发更深层次的教育不公平。因而，在人 工智能赋能教育过程中，一方面要理性看待已经出现或可能会出现的伦理困境，另一方面要在倡导智能技 术和教育融合共生的基础上，从加强技术支撑和伦理规范建设、构建新型师生伦理空间、明晰智能教育伦理 责任和提升师生智能素养等四个方面，构建人工智能教育伦理治理新范式，以防患于未然。 关键词 人工智能 技术赋能 教育伦理 师生关系 王晓敏，温州医科大学外国语学院讲师 刘婵娟（通信作者），温州医科大学健康与生命伦理研究中心教授 以深度学习为代表的人工智能技术在迅速发展的同时，也被广泛应用于各领域。具有自动写作 功能的语言优化模型ChatGPT惊艳出场，联结了现实空间与虚拟空间的“元宇宙”数字生活空间横空 出世，成长于数字化环境中的数字土著成为新一代的教育主体。面对这样的现实，人们不得不重新审 视教育与技术之间的关系。在实践中，人工智能在教育领域的应用越来越广泛，包括各教育利益相关 者及教育管理部门对教育大数据的收集和使用，智能技术在学生的自主学习、教师的线上授课以及智 慧课堂的行为识别中起到的辅助作用，等等。从理论上来说，人工智能赋能教育，其本质就是提倡利 用网络技术、信息技术以及智能技术等改善现有教育中技术利用不足的问题。学者们逐渐重视“教育 中的人工智能”（artificialintelligenceineducation,AIED）的研究。这一研究领域，主要是指人工智能与 本文为国家社会科学基金重点项目“医学伦理委员会及其伦理审查能力建设研究”（19AZX014）的阶段性成果。 · · 68 人工智能赋能教育的伦理省思 教育科学融合所形成的专项领域，其研究目的在于利用人工智能技术揭示学习发生机制、促发高效学 [1] 习以及促进教育改革发展 。这一应用及其过程，被通俗地简称为人工智能技术赋能教育。在人工智 能技术赋能教育的过程中，由于教育教学方式技术化的变革创新，师生关系与教育环境也一定会发生 潜移默化的改变，并带来人工智能技术环境下新的教育伦理问题。那么，人工智能赋能教育将可能产 生哪些伦理风险呢？本文旨在通过探讨这一问题构建智慧教育伦理治理新范式，以做到未雨绸缪，防 患于未然。 一、人工智能赋能教育的伦理风险 教育领域的技术赋能或将对教育决策、教学应用及教育环境等方面产生影响，从而催生教育变 革。人工智能技术在解构现有教育教学生态的同时，也在建构人工智能教育教学技术化的新生态。 在技术化的教育新生态中，由于人工智能扮演类人的角色，所以它不仅改变了传统教育生态中的人际 关系，而且也促使教育伦理中关于道德行为的价值判断标准发生变化。然而，即使作为技术伦理和教 育伦理的结合体，人工智能教育伦理仍然应该以“人”为研究的出发点，规约人在人工智能应用过程中 [2] 的行为 ，这是因为教育的对象仍然是活生生的人，而不是“技术”，更不能为了运用技术而改变“人之 为人”的本性。由此，以“教育是培养人之为人的教育活动”作为考察和运思的标准及出发点，人工智 能赋能教育将可能在教育技术、师生关系以及教育生态等方面产生伦理风险。 1.关于教育技术的伦理风险 人工智能时代最让人焦虑的技术问题，就是算法黑箱问题和数据安全问题。先就算法黑箱问题 对教育伦理的影响加以考察。众所周知，现实世界为大量数据所重建，界面、数据、模型是智能算法黑 箱的三大形成要素，而对于交互界面内部数据的运作逻辑——算法，人们却无从知晓，这种算法的不