人工智能治理的伦理问题与安全风险.docxVIP

人工智能治理的伦理问题与安全风险 摘要：从全球范围来看，利益相关体已经提出了诸多人工智能治理原则以试图通过“软体系”的方式应对人工智能发展和应用所引发的伦理问题与安全风险。本文指出，人工智能的主体性挑战、代码作为规则重要性的提升以及“黑箱性”的存在构成了以“软体系”应对人工智能伦理问题与安全风险的特殊原因，而推进理念共识、聚焦局部议题、创新治理机制则构成了其具体内涵。虽然现有方案有利于推动人工智能伦理问题与安全风险的治理进程，但其在关键概念上的模糊、具体内容上的缺失或争议以及决策过程的不足，也引导人们产生更多反思。中国近年来在三个方向积极推进并于2021年初形成了《网络安全标准实践指南——人工智能伦理安全风险防范指引》的阶段性成果，该文件界定了人工智能治理的相关主体范围，总结了人工智能伦理问题与安全风险的具体类型，并明确了相关主体所应履行的治理职责。结合全球比较和中国实践的分析，文章进一步对未来人工智能伦理问题与安全风险治理的发展可能提出了三点展望。 一、缘起:《网络安全标准实践指南———人工智能伦理安全风险防范指引》的发布及其背景2021年1月，全国信息安全标准化技术委员会(简称“信安标委”)正式发布《网络安全标准实践指南———人工智能伦理安全风险防范指引》(简称“《指引》”)，《指引》是国家层面出台的首个涉及一般性、基础性人工智能伦理问题与安全风险问题，并具有可操作性的指引文件，为我国人工智能伦理安全标准体系化建设奠定了重要基础。近年来，伴随着人工智能技术的快速发展及其在不同领域的普及应用，以推动人工智能“安全、可靠、可控”发展为目标的人工智能合规体系建设也在同步推进。我国初步确立了合规体系建设规划和路线图对于《指引》积极意义的肯定，并不意味着人工智能伦理问题与安全风险治理便“一劳永逸”地得到了解决，甚至不一定意味着我们距离问题的解决“更近了一步”。正如阿西莫格鲁等人所警示的，我们或许连“需要什么样的人工智能”这样的目标性问题，都还不甚了了(本文接下来将从五个部分展开论述。第二部分将对人工智能伦理问题与安全风险治理的问题进行界定，既是明确研究对象，也是对可能存在的不同治理目标进行比较与区分。第三部分将总结当前存在的应对人工智能伦理问题与安全风险治理问题的主要方案，从理念、客体、主体三个方面做出综述性解释。第四部分将梳理针对已有方案的批评，在比较分析中厘清主要的反思视角。在此基础上，第五部分将回到中国:一方面总结我国当前推进人工智能伦理问题与安全风险治理的整体性框架，另一方面也对《指引》的内容特点和重要意义进行解释。第六部分将从未来展望的视角对全文做出讨论和总结。二、问题:人工智能伦理问题与安全风险治理的独特性在经历自1956年以来的两次发展起伏之后，人工智能技术在当前迎来了第三次发展高潮，并被视为第四次工业革命的标志性技术而得到普遍应用。尽管批评者指出，人工智能不过是硅谷包装的“答案主义”(Sollutionism)意识形态的又一个体现(但新兴技术应用结果可能造成个人权利侵害或社会权力结构转移的风险，并不仅限于人工智能，传统治理体系也并不一定不能做出有效应对。例如，技术社会史的研究揭示，条形码和扫码器的应用提升了零售业的供应链管理效率，因此更有利于大型连锁零售商的运营，但这也并不必然意味着权力结构的集中或中小供应商及零售业工人的边缘化。尽管美国形成了沃尔玛式的垄断结构并抑制了供应商和工人的博弈能力，但德国和丹麦却出现了大型零售商与供应商、工人共享规模经济收益的情况;而在英国和法国，情况则是工人共享收益而供应商却在大型零售商的垂直并购中被边缘化(较为直接的答案注意到了发展与规制的二元平衡:在新兴技术发展和应用模式尚存较大不确定性的情况下，更具包容性的“软体系”有利于最大限度降低规制对于创新的前置影响。但这仍然只是对于一般规律的总结，并未对人工智能的特殊性做出解释。更多的研究注意到了人工智能作为一般性技术的能力，且与蒸汽机、电力等其他一般性技术不同，人工智能至少在以下三方面体现出独特性。首先，人工智能第一次体现了主体性挑战。传统数字系统的设计大都体现为人类借助表达能力而进行的需求界定、流程划分、条件判断等系列工作。与此不同，建立在机器学习基础上的人工智能技术流派的发展，可以基于大量数据的学习而自主总结出数据背后的规律与特征，由此体现出与“人”类似的“表达”能力。迈克尔·波兰尼曾指出，“人类知道的远比其能表达出来的更多”，这也构成了人类表达能力的“波兰尼困境”(其次，人工智能的主体性挑战并不仅仅体现为作为技术产出的结果而引发的权利争议，更在于作为影响社会运行重要规则的形成方式的变化。网景公司创始人马克·安德森2011年在评论文章中提出的“软件正在吞噬世界”的观点，深刻影响了硅谷的发展