人工智能向善：面向未成年人的人工智能应用监管探研——面向未成年人的人工智能技术规范研究(三).pdfVIP

2023年第8期渊总第364期冤 DOI:10.13811/j.cnki.eer.2023.08.005 理 论 探 讨 人工智能向善：面向未成年人的人工智能应用 监管探研 要要要面向未成年人的人工智能技术规范研究渊三冤 倪 琴 袁 贺 樑 袁 王英英 袁 白庆春 袁 吴永和1 2 2 3 4 渊1.上海师范大学教育大数据与教育决策实验室袁 上海 200234; 2.华东师范大学上海智能教育研究院袁 上海 200062曰 3.上海开放大学上海开放远程教育工程技术研究中心袁 上海 200433曰 4.华东师范大学教育信息技术学系袁 上海 200062冤 [摘 要]人工智能应用与未成年人之间的和谐共生是当前亟待完成的任务遥 由于未成年人正处于认知尧心理塑造发 展的关键时期袁其成长发展过程中需要更多监管和关注遥 针对当前人工智能应用监管中存在的风险和挑战袁文章从面向 未成年人的人工智能应用监管框架顶层设计出发袁提出面向未成年人的人工智能应用监管善治路径遥监管框架顶层设计 以尊重人类的自主能力为核心袁提升未成年人的能动性袁优化监督机制袁具体包括监管内涵尧技术原则和组成要素遥 监管 善治路径从以未成年人为中心的人工智能应用监管技术体系的构建出发袁探索提升场景多样化评测机制袁完善面向未成 年人的人工智能应用监管制度袁参与面向未成年人的人工智能应用监管国际规则制定袁开展面向未成年人的人工智能应 用监管社会实验研究遥 通过研究框架和善治实施路径的构建袁以期为面向未成年人的人工智能技术规范提供有益参考遥 [关键词]人工智能曰应用监管曰未成年人曰安全伦理 [中图分类号] G434 [文献标志码]A [作者简介]倪琴渊1989要冤袁女袁安徽合肥人遥 副教授袁博士袁主要从事教育数据挖掘和智能教育算法伦理研究遥 E- mail院niqin@shnu.edu.cn遥 贺樑为通讯作者袁E-mail院lhe@cs.ecnu.edu.cn遥 是面向心智尚未成熟尧 世界观尚未稳定的未成年人袁 一尧引 言 更加需要有相应的监督和支持袁以保证未成年人在与 随着人工智能应用场景的不断拓展袁在多元化海 智能系统交互中保留野自主性冶袁具有以正确教育理念 量验证过程中不断反映出应用产品和服务固有的技 引导的成长体验遥英国著名社会学家大卫窑科林格里奇 术缺陷袁也持续暴露出政策法律尧伦理舆情与市场反 曾言院野一旦技术应用的风险后果发生时袁它已成为经 [1] [3] 馈等方面的社会性风险 遥 叶人工智能应用准则曳中提 济和社会结构的一部分袁对其管控将十分困难遥 冶 因 到 野人的监督冶袁 强调人工智能不应该超过人的自主 此袁廓清人工智能应用的风险边界袁并对其进行有效 性袁人类应该监督人工智能技术的发展以及人工智能 管控是非常必要的遥特别是针对作为社会发展后备力 [2] 技术的决策袁并在必要时进行干预 遥 由此可见袁人类 量的未成年人袁 在新型智能终端迅速普及的当下袁及 在使用人工智能技术的过程中应具备野自主性冶袁特别 时采取监管策略进行智能化管控袁才能为未成年人提 基金项目院2021年度国家社科基金重大项目野面向未成年人的人工智能技术规范研究冶渊项目编号院21ZD328冤曰2022年度国家自然科 学基金青年基金野基于深度强化学习的自适应学习路径推荐研究冶渊项目编号院6210020