人工智能技术发展与安全“风险”.docx

人工智能技术发展与安全“风险”

现代风险与科学技术的发展有着密切的联系。科学技术在给人类带来巨大福祉的同时，也潜藏着对人类社会的各种威胁，成为现代社会风险的重要根源。按照社会建构论的观点，科学技术的后果与影响是内在于科技自身的东西。在这个意义上，风险性不是外在于科学技术的社会特征，而是科学技术的内在属性之一。也就是说，科学技术是风险负荷的。

1、机器人技术与社会风险

人工智能显然是“被制造出来的”。例如，2017年，波士顿动力公司发布的一款Atlas四足机器人震惊了世界，除行走、跳跃外，这款Atlas机器人还会后空翻！绝大部分人都无法完成的高难度动作竟然让一个机器人轻松实现了。为了保持其直立和稳定性，Atlas不仅拥有立体视觉感知、距离感知及其他感知功能，还能够观测环境并在崎岖不平的地形上行走。机器人技术发展如此迅猛，对此，特斯拉公司CEO马斯克多次建议加强监管，他认为：“我们必须要建立人工智能的监管技术，人工智能和食品、药物、航天航空、汽车一样需要被监管。就像如果没有FCC美国联邦航空管理局，飞行安全一定会是个大问题。”

2、智慧物联网与社会风险

整体而言，智慧物联网的落地过程仍属于初级阶段，因此，也具有在开始阶段所具有的普遍风险倾向。随着产业进步，必须要面对和解决安全风险问题。在整个物联网落地过程当中，安全漏洞比以前互联网还要多得多，而且安全的事故所带来的影响可能比以往计算机被病毒入侵的情况要厉害得多。例如，根据一项对智能摄像头的信息安全风险监测结果显示，安全漏洞防不胜防！安全风险问题包含数据的隐私、流程安全运营和管理、对于密钥的鉴别以及认证等，需要系统地由多厂商平台（包括网络运营）一起来解决。

3、无人驾驶与社会风险

在无人驾驶任务中，生成对抗网络对车辆视觉系统的攻击是一个问题。对抗样本对计算机视觉系统的攻击已经是老话题，只要很轻微的扰动，神经网络就会发生错误，将一个物体看成另一个物体，或者干脆对眼前的物体视而不见。和“计算机能够看明白东西”这一伟大历史进展相比，轻微的扰动可能是无伤大雅的小问题。但这样的缺陷放在自动驾驶领域，却是人命关天的大事情。“在无人驾驶系统的视觉模块、在能购物的智能音箱里、在过滤网络不良信息的任务中，我们需要系统非常可靠。而现在，神经网络的潜在危险很多。”对此，360集团董事长兼CEO周鸿祎在第二届世界智能大会现场演讲时称，没有安全就不可能有智能汽车时代的真正到来。无论是特斯拉还是别的智能汽车都可以用手机进行控制，要和车厂的服务器保持连接，能够通过定期更新软件来改变车子的驾驶模式，既然汽车都可以联网，用手机都可以打开车门、打开空调了，那么就一定可以被劫持。

上述分别从机器人、智慧物联网和无人驾驶等三个人工智能应用领域介绍了人工智能技术的安全风险表现。人工智能技术涉及数学、计算机科学、心理学、神经学等众多门类，在机器人、智能分析、识别系统等方面获得了广泛应用。但人工智能技术的发展并没有从根本上解决因技术故障导致的机器人“伤人”事件。例如，前述2016年第十八届中国国际高新成果交易会上由于工作人员的操作失误，使机器人撞向站台，划伤观众事件。因此，人工智能最为直接的现实挑战就是技术风险。例如，人工智能系统所依赖的传感器以及所使用的开源软件等，这使得其面临较多的安全漏洞。

人们谈论风险，往往不是在一个层面上，有的人谈论的是可能的技术发展中的安全风险，有的人谈论的则是技术的潜在不当使用所带来的风险。