人工智能的潜在风险及预防对策研究.docxVIP

??

?

??

人工智能的潜在风险及预防对策研究

?

??

?

?

?

?

?

?

?

???

?

?

?

?

?

王晓兰徐艳张庆芳刘孝赵蒋中

摘要：人工智能发展方兴未艾，已应用在了人类社会的很多方面。该文主要从深浅两个层次阐述人工智能的潜在风险。显而易见的风险主要是人工智能技术的兴起，将威胁到人类就业岗位，造成潜在的失业风险；另一个风险是现行法律法规对潜在的人工智能引发的各类危害没有完备的处理机制，受害的一方很难获得有效的法律应援，面临无法可依的风险。深层次的风险一是人工智能在战争中进行应用，另一个是人工智能的自我迭代超出人类的控制，发展出超级智能，都可能将人类带入到灾难的深渊。该文提出三个方面的预防对策，一是从技术上进行风险预防，即在算法设计之初就给予必要的安全性可控性设计；二是从法律法规上约束人工智能开发企业或者个人的开发权限；三是构建人工智能“全球治理”联盟，多方合作信息共享，预防潜在的人工智能公共危害事件的发生。

关键词：人工智能；风险；预防；对策

中图分类号：TP18文献标识码：A文章编号：1009-3044（2018）27-0182-03

1背景

近年来，人工智能（AI：ArtificialIntelligence）取得了长足发展，但其潜在风险并没有像AI的技术应用研究一樣引起广泛关注。

霍金说过，“我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。”埃隆·马斯克也就人工智能发展，对人们发出过警告：超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。

2015年，科学家霍金和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做认真的调研。这封信也引起了社会各界的广泛关注。

为确保人工智能不被误用，或者应用于不符合人类利益的场景，美国谷歌公司专门成立一个伦理委员会，用于监督谷歌公司的人工智能技术研发。

毫无疑问，人工智能的崛起，对人类影响与日俱增。如果人类在大力发展AI的同时没有做好相应的风险预防和相关对策研究，其潜在的风险很可能带来意想不到的后果。随着日常生活中越来越多的领域日益受到人工智能的影响，我们需要确保人工智能无论现在还是将来，都为人类而服务。

2人工智能的主要潜在风险

人工智能的潜在风险，可以从浅层次和深层次两个层面进行探讨。

2.1.1人类失业风险

目前人工智能已经学会了下棋、作画、创作音乐、写新闻稿、扫地、做饭甚至是设计、无人驾驶、航行等。一些无须天赋，经由训练即可掌握的技能或者大量的重复性劳动工作岗位，已经被智能机器人取代。在未来，人工智能因其高效率和低成本，将取代更多人类劳动力，造成潜在的大量人口失业风险。

对传统工作岗位的替代会在全球范围内导致大量失业，而新的就业岗位能否被创造出来还面临很大的不确定性。从国家角度来看，人工智能的先发国家和大国，依旧可以通过发展人工智能的收益来弥补传统产业的损失，通过将部分收益用于转移支付和社会保障系统来维护社会的基本稳定。而一些未能跟上人工智能发展浪潮的国家，大量就业可能会转移到国外，导致政府缺乏足够的资源来应对失业风险的冲击。

霍金在英国《卫报》的一个专栏中写道：“工厂自动化已经让众多传统制造业工人失业，人工智能的兴起很有可能会让失业潮波及中产阶级，最后只给人类留下护理、创造和监督工作。”

在当前和可预见的未来，人工智能技术的发展正在对劳动力市场产生越来越明显的影响。AI大大提高了工业生产效率，人工智能这对很多普通劳动者来说是一个潜在的工作竞争对手，因为他们的工作逐渐被机器取代。

花旗银行与牛津大学合作发布的报告预测显示，美国47%的就业岗位可能被机器人代替。在英国，这个比例是35%。在中国，该比例高达77%，而在经合组织国家，平均57%的工作岗位将实现自动化。

全球最大的10个雇主中有三个正在用机器人取代工人，并且这个数据会不断增长。

北京大学市场与网络经济研究中心研究员陈永伟也提交了一份人工智能研究报告。他认为，从全国范围来看，可能有70%的职业会受到人工智能的冲击。如果剔除掉农业人口受到冲击的概率，可能大概有60%的职业会受到冲击，大量人口面临失业的风险。

2.1.2法律问题

人工智能在提高人类生活水平的同时也引发了一些侵权事件。不断出现的人工智能伤人事件或者失误现象引发了人们的担忧，也直接对各国的法律和司法提出了新的难题。现行的法律法规若不增补相应条款，对后期由人工智能引起的法律纠纷，将面临法律空白的问题，立法保护相关方的基本权利，势在必行。然而法律的条款在面对此类新兴技术带来的问题，也需要一个漫长的实践和修正的过程。其潜在的很多法律问题，我们不得不提前进行预防。

2016年有报道称，有机器人突然出现