人工智能伦理治理标准化路径研究.pdfVIP

编辑：胡欣 新兴技术领域标准化研究专题 E-mail: huxin@ Topic on Standardization for Emerging Technology Fields 人工智能伦理治理标准化路径研究 Research in Standardization Path of Artificial Intelligence Ethic Governance 中国电子技术标准化研究院 董 建 徐 洋 杨雨泽 摘 要 聚焦人工智能伦理治理 , 通过梳理人工智能伦理治理的技术框架，将技术要素与标准化路径结合，提 出人工智能伦理治理标准体系，并围绕治理标准、伦理准则、治理技术等方面给出伦理治理的建议。 关键词 人工智能 标准化 伦理 治理 Abstract: This paper focuses on ethical governance in artificial intelligence, outlines the technical framework of ethical governance in artificial intelligence, combines technical elements with standardized paths, proposes a standars system for ethical governance in artificial intelligence, and provides suggestions for ethical governance around governance standards, ethical guidelines, governance technologies, and other aspects. Keywords: artificial intelligence; standardization; ethic; governance 1 引言 2 人工智能伦理概念与范围 当前，通用人工智能的发展令人工智能在下游 人工智能伦理与数据伦理、机器人伦理、信息 任务的性能逐步趋近类人智能，并体现出极强的应 技术伦理等应用伦理学分支具有密切的关系，有其 用赋能潜力。人工智能新技术正在颠覆性地重塑着 发展的继承性和很多的相似之处。对于尚处弱人工 人类生活、工作和交流的方式，与人类社会融合为一。 智能的当前阶段，也很难判定人工智能伦理已经从 但是，人工智能产业保持高速发展态势的同时，人 机器人伦理等前沿研究领域中实现完全分化。站在 工智能技术自身发展面临诸多困境。作为一种具有 第四次工业革命的宏观角度来看，人工智能作为具 颠覆传统、改变人类未来的技术，人工智能所带来 有创造性和革命性的新领域，对全社会、全行业和 的隐私泄漏、偏见歧视、责权归属、技术滥用等伦 全技术都在进行新的赋能，正在产生颠覆性、不可 理问题已引起各界的广泛关注。人工智能伦理已成 逆的后果，因此人工智能伦理也超越了应用伦理。 为无法绕开的重要议题，也是人工智能融入人类社 包括计算元伦理 (Computational Meta-ethics) 在内的 会的必要保障。世界各国高度重视人工智能的全面 创新学科，为人工智能伦理学理论体系的丰富做出 健康发展，并将伦理治理纳入其人工智能战略，相 不同理论进路的贡献。 应地推出政策或发布规划、指南与规范等文件用于 随着人工智能的伦理问题逐渐引起人们的关注， 建立人工智能伦理保障体系，开展人工智能伦理相 越来