算法公平：教育人工智能算法偏见的逻辑与治理.pdfVIP

第29卷第5期 开放教育研究 Vol.29, No.5 2023年10月 OpenEducation Research Oct.2023 算法公平：教育人工智能算法偏见的逻辑与治理 王佑镁 美王旦王海洁 柳晨晨 （温州大学大数据与智慧教育研究中心，浙江温州325035） 【摘要】算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视 等伦理风险。通过系统性回顾2013一2023年教育人工智能算法偏见的57篇文献，本研究发现，从总体架构 看，教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类；从以 算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看，研究样本在算法偏见的种 类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础，提出未来教育算 法偏见研究的五个方向，以期促进教育的算法公平，优化人工智能教育应用环境，推动教育人工智能生态系 统的健康发展。 【关键词］教育人工智能；算法偏见；算法公平 [中图分类号]】G434 [文献标识码]］A [文章编号]1007-2179(2023)05-0037-10 一、引言 育不公平。 算法公平是人工智能领域的核心伦理目标，也 教育人工智能指人工智能技术在教育领域的 是教育领域面临的重要伦理挑战，包括算法偏见、 深化应用，即为教育创设高交互、泛在化与强感知 算法歧视、算法黑箱等。其中，算法偏见隶属算法 的教与学环境，构建公平且有质量的教育人工智能 伦理风险，指计算机执行计算或解决问题指令时， 系统。人工智能技术的快速迭代正逐步重塑教育 因初始算法、样本数据和歧视模仿等造成的思维 生态。例如,ChatGPT风靡海内外教育圈，成为互 处理惯性，导致人工智能系统运行出现偏向性的举 联网上最受关注的人工智能应用之一(王佑镁等， 措或选择。不同算法会产生不同类型的算法偏见 2023 ）。人工智能的教育应用以其个性化、定制化、 （陈洪兵等，2019）。算法偏见主要来自于人类的偏 智能化等优势可替代部分教育教学工作与管理，甚 见，以隐性偏见为主，但可识别与监督，尤其是显性 至教育决策（倪琴等，2022）。然而，这不可避免地偏见。教育领域算法偏见逐渐常态化，以性别偏见、 会引发算法偏见、算法歧视等伦理风险，破坏算法 种族偏见和地域差异等最为常见（Bakeretal.,2021)。 公平，降低教育透明度，增添教育不确定性，导致教 当下，人类主体作为潜在的算法开发者或使用者， [收稿日期]2023-07-16 [修回日期]2023-07-28 [DOI编码]10.13966/ki.kfjyj.2023.05.004 [基金项目】全国教育科学规划2021年度国家一般课题“教育领域人工智能应用的伦理风险与防范对策研究” (BCA210086)。 [作者简介］王佑镁，教授，博士生导师，温州大学大数据与智慧教育研究中心(wangyoumei@126.com) ；王旦，王海洁，在读硕士， 温州大学大数据与智慧教育研究中心(wdzzrs@163.comwhjzwx@163.com) ；柳晨晨，博士，副教授，温州大学大数据与智慧教育 研究中心。 [引用信息】王佑镁，王旦，王海洁，柳晨晨(2023).算法公平：教育人工智能算法偏见的逻辑与治理[J].开放教育研究,29(5)：37- 46. ·37· 王佑镁，王旦，王海洁，柳晨晨.算法公平：教育人工智能算法偏见的逻辑与治理 OER.2023,29(5) 无意中会盲目跟从算法偏见，导致出现算法歧视 的有48