人工智能治理问题的初步思考.docx

????

???

人工智能治理问题的初步思考

???

?

?

?

?

?

?

???

???

?

???

?

?

?

?

?

?

”关注

自上世纪50年代人工智能概念诞生以来，全球人工智能发展经历了数次浪潮。本次浪潮由大数据、机器学习、高速网络、资本市场等多重因素共同推动，呈现出跨界融合、人机协同、自主操控等新特征。笔者认为，当前我国人工智能发展正处于从科技研发向产业形成过渡的关键时期，需要前瞻性探索和构建人工智能治理体系，对人工智能产业的健康发展形成有力支撑和保障。

从“互联网治理”到“人工智能治理”

互联网领域最先采用了“治理”的概念。1998年，全球范围互联网关键基础资源的管理者ICANN与美国商务部签订谅解备忘录，由ICANN协调和管理互联网数字分配机构IANA服务，实现对全球互联网号码资源的分配和根区管理。联合国互联网治理工作组（WGIG）2005年对互联网治理的阐释可有效反映“治理”一词的涵义，即“政府、私营部门和民间社会，根据各自的作用，制定和实施的、旨在规范互联网发展和运用的共同原则、规范、规则、决策程序和方案。”

与互联网相比，人工智能除了有渗透性强的共性特征，还具有数据量大、难以预测、难以控制的特点。一方面，人工智能依赖的核心技术是以深度学习为代表的机器算法，其产品和技术具备飞速的学习能力；另一方面，人工智能本身具有“黑箱化”的特征，机器通过自动运算输出结果，数据训练可能产生新的机器学习算法，导致产品和服务做出的决策难以预测和控制。总的来看，人工智能面临比互联网更多的未知因素，可能对监管机构、法律、伦理等均带来影响，需对相关治理议题进行前瞻性研究。

国内外人工智能治理相关探索

考虑到人工智能的特性和对治理体系带来的影响，美国、欧盟、英国、日本等发达国家在战略层面加快部署。

美国在顶层战略中考虑人工智能治理的应对策略。2016年，白宫连续发布三份白皮书（《国家人工智能研究和发展战略计划》、《为人工智能的未来做好准备》、《人工智能、自动化与经济》），从制度、细则、社会等方面提出应对人工智能变革的策略。

英国格外注重人工智能对伦理、法律等问题带来的挑战。2016年，英国下议院的科学和技术委员会发布了一份关于人工智能和机器人技术的报告，阐述了人工智能的发展与监管带来的潜在的伦理道德与法律挑战；英国政府发布了《人工智能：未来决策制定的机遇和影响》，阐述了人工智能的未来发展对英国社会和政府的影响。

联合国人工智能报告呼吁世界各国采用全新视角看待人工智能系统未来监管问题。2015年联合国教科文组织与世界科学知识与技术伦理委员会联合发布报告，讨论了人工智能的进步及其带来的社会与伦理道德问题。

目前我国也已在顶层战略中专门强调了建设人工智能治理体系的重要性。2017年7月，印发了《新一代人工智能发展规划》，在战略目标中对法律和伦理体系建设提出了“三步走”的要求，对人工智能治理面临的责任划分、隐私产权保护等共性法律问题，以及自动驾驶、服务机器人等细分领域落地需要制定的安全法规进行了部署。

人工智能治理应重点考虑的要素

人工智能技术发展迅速，结合国际经验和人工智能产业发展的自身特点，对于如下治理问题需予以重点考虑。

一是业务准入和形态界定问题。人工智能涉及业务范围广泛，应用形态演进迅速，特定行业管理部门很难及时准确界定人工智能产品或服务范畴，确定监管对象和监管主体。以人工智能在金融领域的应用为例，欧洲三大金融监管机构、美国证券交易委员会（SEC）、中国证监会对“智能投资顾问”业务的界定各不相同，各国监管态度也有很大区别：美国、英国、香港、日本等国家和地区认为现有监管规则可直接适用于此业务模式；加拿大、澳大利亚已针对智能投顾出台专门指引或规范性文件；法国、荷兰、新加坡等国正在评估是否需要针对此项新业务出台补充性规则或保障性措施。总体来看，关于人工智能具体应用的监管，国际上普遍仍在探索过程中。

二是人工智能算法公平性问题。2016年，曾发生了谷歌图像识别软件将黑人错误标记为“黑猩猩”的事件，显示了机器算法设计可能带来对用户的歧视问题。实际上，人工智能算法的公平性贯穿于人工智能全生命周期：设计阶段，算法是否符合人类的伦理规范，关系到人们能否接受这项新生事物；运行阶段，算法是否能够预测和解释，关系到用户权益受到损害时如何追偿。为降低人工智能算法带来的公平性问题，美国在算法治理方面的经验值得借鉴：2016年美国白宫人工智能报告建议，人工智能从业者和学生都应接受伦理培训。特斯拉CEO马斯克等人于今年1月联合签署了“阿西洛马人工智能23条原则”，为人工智能产品和服务的算法设计和植入提供了指南。领军企业谷歌、IBM、微软等领军企业提出人工智能发展原则，成立人工智能伦理委员会，对算法进行自我审查。

三是人工智能中的个人隐