《人工智能治理之旅》.docxVIP

人工智能治理之旅：发展与机遇 【译者按】2021 年 11 月，世界经济论坛发布了《人工智能治理之旅：发展与机遇》。报告指出，人工智能技术取得飞速发展，但相关的治理能力和框架却没有及时跟进。近几年，各方对治理人工智能提出了很多伦理道德原则，但如何在不扼杀创新的前提下管控风险并推动人工智能治理由原则向实践转化才是最关键的。为此报告提出若干政策建议，呼吁多利益攸关方采取“灵活治理”的方式，共同参与人工智能治理。赛迪智库政策法规研究所对该报告进行了编译，期望对我国有关部门有所帮助。 【关键词】人工智能 治理 多利益攸关方 一、背景 在过去五年，人工智能治理取得了迅猛发展，构建人工智能监管生态系统的速度大大提高，但如何以负责任的方式推动人工智能的应用和实践依旧是当前面临的迫切挑战。人工智能有独特的风险，简单照抄现有政策工具并不能处理好这些问题，社会必须考虑在应用人工智能时完善相关手段和措施，以此来化解先进决策系统带来的潜在风险。 这些手段和措施应当包括国际合作及跨部门合作，现在比过去 任 何 时 候 都 更 有 必 要 推 广 “ 多 利 益 攸 关 方 参 与 ” （Multistakeholder Approaches）的方式，同时在人工智能治理设计方面也要采取更灵活的方法。要以负责任的方式对人工智能应用进行治理，确保人工智能技术能保护并惠及每位社会成员。 二、人工智能发展历程回顾 历次工业革命既创造机遇，也带来挑战，迫使社会重新审视当时的治理结构能否有效维持监管与创新之间的平衡。人工智能是推动第四次工业革命的引擎，围绕人工智能及其安全防护措施将会出现诸多挑战。对其历史发展进程进行总结回顾十分重要，只有通过回顾过去，才能把握未来的发展方向。 （一）2010 年以前：人工智能的冬天与解冻 早在人工智能发展初期，大家都认为人工智能发展到可以承 担权责的程度时，就有必要认真考虑治理方面的问题。即使是处 于历史学家认为的“人工智能冬天”（即人工智能及公众兴趣走 低的时期），人们对人工智能带来的后果和治理效果也抱有担忧 和恐慌。另外，人工智能的潜在应用范围极广、社会影响深远， 这势必引发人们对隐私、安全、偏差、公正等议题的担忧。因此，在制定政策时必须从多领域的现有框架中汲取经验，包括国际法、公共政策、数据治理与伦理道德规范等领域。 （二）2010 年到 2016 年：人工智能加速发展带来的挑战 2010 年以后人工智能的发展开始提速，主要源于三方面的突破：一是计算能力提升，二是云计算渠道增加，三是数字化数据量激增。同时，人工智能在深度学习方面也取得了明显进展。 人工智能的快速发展及应用的确鼓舞人心，但同样也引发了公众对数据使用和侵犯隐私等多方面的担忧。在获取或开发深度学习技术的热潮中，亟需防范的主要是涉及决策类的应用，如执法、人力资源和金融等敏感领域的应用。此外，人工智能系统对特定社会群体的不公正对待现象及宏观层面的关切也时有报道。对那些希望快速从人工智能发展中受益的人来说，重点是如 何在安全和创新之间保持平衡。人工智能开始加速发展，治理不到位自然也就成了“速度问题”（法律法规无法跟上技术进步）。 （三）2016 年到 2019 年：发布原则与指南 到 2016 年，公众越发意识到如果不对人工智能进行适当的监管和引导，将会干扰公众生活，扩大社会不平等，加剧现有偏见，并破坏隐私，而所有这些都会削弱公众对人工智能的信任，从而使人工智能造福社会的潜力消失殆尽。 政府和业界的最初反应是制定或修改某些原则。2017 年，在美国阿西洛马（Asilomar）举办了一次“有益的人工智能会议”，会上提出了一套原则来帮助公众了解政府和业界一直大力推动的概念和观念，包括隐私、公正、非歧视、透明、安全与问责等。在这之后，世界各地的其它组织纷纷围绕人工智能主题发布各自的原则和主张。围绕人工智能造福社会的话题也兴起了多个组织和倡议，比如 2015 年成立的“开发人工智能学会”、2016 年成立的“人工智能合作伙伴”和 2017 年发起的“人工智能伦理与治理倡议”。 （四）2019 年至今：持续加速与治理创新 普及人工智能原则与道德指南有助于揭示人工智能跨国治理的关键要素。从 2019 年开始出现两个转折点：一是指明了实施上的差距，二是就原则转化成可操作的治理机制问题点明了未来的努力方向。努力的目标基本上是“柔性”治理机制。尽管存在更传统的治理形式（如直接禁用某些应用，或通过算法对立法 倡议进行问责），但在规范的实际制定过程中仍以“柔性”治理机制为主。各主体对这一课题的日益关注，说明公众普遍认为现有制度和规则已无法确保人工智能以负责任的方式向前发展。 三、从原则到实践：在不扼杀创新的前提下管控风险，推动人工智能道德实用化。 截至 2020 年，各国政府、倡