基于产业链视角的人工智能风险分析及其防范.docxVIP

?

?

基于产业链视角的人工智能风险分析及其防范

?

?

李新瑜张永庆

内容提要伴随技术的日益成熟以及与各行业融合的不断深入，人工智能在给公众、行业和社会带来便利和机遇的同时也暴露出一系列潜在的社会风险。基于人工智能产业链的研究视角，人工智能风险分别表现为基础层面的机器伦理风险、算法歧视风险和数据应用风险，技术层面的网络安全风险和人机互动风险，应用层面的系统性风险、法律制度风险和社会福利风险。为全面有效地防范人工智能风险，一方面应从研发技术层以研发人员作为内部风险防范的起点，构建多层次的防范机制，并营造理性积极的社会舆论环境，另一方面应从行业应用层结合不同的行业应用实际构建“人工智能+”的风险防范体系。最后，在当前世界各国激烈的人工智能发展竞赛中，作为人工智能发展的领先大国，中国也应在监管模式、立法进程及全球治理中树立前瞻性思维，增强人工智能领域的影响力和话语权，为全球人工智能风险防范提供参考。

关键词人工智能产业链风险构成风险防范

〔〕F49;TP18〔〕A〔〕0447—662X（2020）04—0047—11

如今我们生活在一个智能化的时代，人工智能作为工业4.0、物联网的应用基础，被广泛应用于资源与环境、零售与物流、工业制造、医疗保健、城市建设等各个领域，给行业和生活带来革命性的改变。人工智能技术如智能语音、机器视觉等日渐成熟，人工智能与边缘计算、5G技术的融合也进入加速发展期，社会公众对人工智能的了解逐步深入并广泛认同其广阔的发展前景。但是，随着人工智能技术和系统的融合被赋予更多的感知能力和自主水平，数字化和智能化等场景应用的不断增多，也引发了大量与人工智能安全和风险有关的负面问题，如虚构语音诈骗、智能设备劫持、智能网络攻击、自动驾驶事故、个人信息泄露等。因此在人工智能技术普及應用的当前，关于人工智能的风险分析和风险防范值得社会关注和警惕。

一、文献综述

技术本身是中性的。从本质上看，人工智能对安全、经济和社会的影响主要取决于其使用方式。从其正面影响看，人工智能在生活中应用的不断深入，如图像和语音识别、翻译、会计、推荐系统和客户支持等，使得公众生活享受到极大便利。同时，人工智能在各行业不断突破创新，如无人驾驶的研发、生产过程中的智能化改造、金融领域内的科技创新、智慧城市的布局和建设等。利用人工智能加强决策、重塑商业模式和生态系统、提升客户体验，给行业带来了新的发展机遇。①研究可见，人工智能的应用能够降低生产和经营成本，提升企业生产绩效，推动产业结构升级，催生了新的经济增长点。②从人工智能的负面影响看，相关研究主要聚焦于智能化与劳动力市场和收入分配的关系。③纵观历史，人们一直担心机械化、计算机以及当前的人工智能和机器人等会扼杀就业机会，引发技术性失业。由于智能系统重组生产过程，从短期看中等技能的工作被自动化取代的可能性更高，低端和高端技能的劳动力留存下来，导致就业极化现象。④由于基础设施和数据应用的分布差异，人工智能在不同国家、不同行业的推进并非同步，因此也会加剧行业和区域的不均衡发展，⑤进一步导致收益分配的失衡。

关于人工智能造成的安全隐患和社会风险，根据全球风险研究院的调查，全球人工智能项目研究主要分布于学术机构和企业，多数项目都没有积极地解决人工智能的安全问题，学术项目在安全方面尤其缺乏。⑥根据自主学习程度，人工智能可以分为弱人工智能、强人工智能、超人工智能三个级别。目前人工智能的研究和开发主要限于单项任务、完成人类指令，都属于弱人工智能。有学者指出，虽然目前的人工智能仍处于弱人工智能阶段，但是一旦机器能与人类的一般智力相匹敌可能会迅速超越人类，对社会产生巨大威胁，出现所谓的“超级人工智能”。⑦来自科技界的许多杰出人士，如特斯拉首席执行官埃隆·马斯克将人工智能称为“召唤恶魔”，比尔·盖茨认为人类应该担心人工智能带来的威胁，计算机科学家史蒂夫·奥莫亨德罗、默里·沙纳汉和大卫·麦卡莱斯特警告称人类应保持对超越人类智慧的智能系统的控制权，否则人工智能可能会带来生存风险。⑧美国智库“新美国安全中心”发布报告将人工智能风险分为脆弱性、不可预测性、弱可解释性、违反规则法律、系统事故、人机交互失败、机器学习漏洞被对手利用七个方面。2018年世界人工智能大会提出人工智能安全风险包括网络安全风险、数据安全风险、算法安全风险、信息安全风险、社会安全风险和国家安全风险。麦肯锡2019年4月发布的《面对人工智能的风险》研究报告中提出数据应用、技术问题、安全障碍、模型偏差和人机互动等因素都会引发人工智能风险。虽然有众多研究机构或专家对人工智能风险做出解释或分类，但人工智能技术本身的特殊性及其应用场景的差异性决定了不同行业应用人工智能产生的风险具有明显的异质性。比如在金融科技领域和无人驾驶领域，人工智能风险的预防、发生