面向儿童的人工智能.pdfVIP

2022 !7 11 # 面向儿童的人工智能 ()* 儿童和青少年的日常生活中充斥着各种人工智能产品。人工 智能可被用来教育儿童和青少年，并赋予他们力量，进而对社会 产生积极影响。但是，人工智能技术也将带来潜在风险，包括偏 差、网络安全和无障碍性的缺失，儿童和青少年尤其容易受这些 风险的影响。因此人工智能的设计必须具有包容性，要尊重儿童 用户的权利。 人工智能技术的发展必须兼具创新性和责任感。负责任的人 工智能应当是安全、合乎伦理、透明、公平、无障碍和包容的。 父母、监护人和成年人均有责任慎重选择设计上合乎伦理的人工 智能产品，并帮助儿童安全地使用这些产品。 本报告旨在为人工智能的负责任设计、消费和使用提供指导， 给企业、设计人员、父母、监护人、儿童和青少年提供帮助，确 保人工智能尊重儿童权利，并给他们的生活带来积极影响。 （一）企业用户 企业应当了解，儿童经常会使用并非专门为其设计的人工智 能产品。应慎重考虑如何为儿童和青少年争取利益，并减少技术 带来的潜在风险。给高管层的清单旨在帮助企业管理层更好地了 解人工智能对儿童和青少年的利弊，以便使其能够更好地对人工 智能进行领导、创新和发展。同时，给产品团队的指导原则可以 为工程师、开发人员、产品经理及产品团队的其他成员提供指导。 （二）人工智能标签系统 人工智能标签系统将被用于所有人工智能产品的外包装，可 通过二维码在线查看，旨在向消费者展示产品的工作原理以及用 户的选择。 （三）消费者：父母和监护人 父母和监护人要在进一步了解人工智能技术的基础上，谨慎 地选择给孩子购买哪些人工智能技术，确保人工智能能够给孩子 的生活带来积极影响。人工智能标签系统（图 1）旨在帮助父母 和监护人了解人工智能的重要特性。 年龄 数据使用 传感器 无障碍性 人工智能的使用 网络 !1 #$%()* +(,-.9: 可行框架和实际指导能够帮助企业为儿童和青少年设计创 新和负责任的人工智能。 在几乎没有可以依据法规的情况下，企业只能在数据捕捉和 人工智能模型训练及应用方面的隐私和伦理问题上自行摸索。该 清单旨在帮助高管层层及其他企业决策者反思并采取行动，为弱 势群体提供负责任的人工智能。 （一）面向儿童和青少年的人工智能应该是值得信赖和负责任 的：给管理层的清单 人工智能的复杂性和影响范围极广，通过审慎实施人工智能 技术，可以使青少年能够按照自己的节奏和学习风格成长和发育。 但是，假如草率地实施人工智能技术，或是缺乏指导，就可能侵 害弱势用户的权利。在儿童发育、适用性和保护隐私等方面，管 理层应当追求严格的伦理和社会标准，以赢得消费者的信赖。 （二）企业可能存在的不足 人工智能应用正在不断提速，同时又缺乏标准和指导。企业 应避免诸如拒绝披露人工智能的使用方式、放大和放任偏差、跳 过以用户为中心的验证、漠视隐私保护和安全漏洞等危险行为。 （三）相关行动 建议采取以下步骤： 1. 了解法律义务和监管范围 利用《电气和电子工程师协会 （IEEE ）伦理规范》、《世界 经济论坛指导》等现有法规，以及为父母和监护人以及儿童和青 少年提供的资源，承诺对人工智能进行监督。使用易懂的表述披 露合规且权威的措施，以便于买方了解。 2. 建立一支多元化的精干团队 建立一支包括伦理学家、研究人员、隐私保护专家、教育工 作者、儿童发育专家、心理学家、用户体验 （UX ）设计师和数据 科学家的精干团队。与非营利组织、教育和研究机构合作，以获 取更多的专业知识。 3. 培训团队并提供资源，让他们借助这份清单取得成功 让团队成员了解设计兼具责任感和信赖感的人工智能十分重 要，并为其提供执行企业愿景所需的技能、工具和时间。针对可 能出现的情形以及原因进行开诚布公的对话，确保团队考虑到了 人工智能的五大特征（图 2 ）。 4. 提