自动驾驶工程伦理案例分析.pdf

自动驾驶工程伦理案例分析

一、引言

2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆

特斯拉轿车撞上了前方的道路清扫车，特斯拉轿车当场损坏，轿车上23

岁的男性驾驶员高雅宁不幸身亡。现场交警的调查也显示，事故发生时涉

事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事故发生后，

特斯拉在声明中称，多次与高家沟通无果。

二、相关背景介绍

百度无人驾驶汽车（baidunomancar)是指百度打算与第三方汽车厂

商合作制造的无人驾驶汽车。百度在2015年下半年推出无人驾驶汽车。

百度无人驾驶车项目于2013年起步，由百度研究院主导研发，其技

术核心是“百度汽车大脑”，包括高精度地图、定位、感知、智能决策与

控制四大模块。其中，百度自主采集和制作的高精度地图记录完整的三维

道路信息，能在厘米级精度实现车辆定位。同时，百度无人驾驶车依托国

际领先的交通场景物体识别技术和环境感知技术，实现高精度车辆探测识

别、跟踪、距离和速度估计、路面分割、车道线检测，为自动驾驶的智能

决策提供依据。

三、故事情节描述

2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆

特斯拉轿车撞上了前方的道路清扫车，特斯拉轿车当场损坏，轿车上23

岁的男性驾驶员高雅宁不幸身亡。现场交警的调查也显示，事故发生时涉

事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事故发生后，

特斯拉在声明中称，多次与高家沟通无果。

随后遇难者家属高巨斌将特斯拉在中国的销售公司起诉至北京市朝阳

区人民法院，要求赔偿损失一万元。其真实目的不在于特斯拉能够赔偿多

少，而是希望通过该案能够让公众知道这种“自动驾驶”技术有缺陷，希

望特斯拉在产品营销过程中不要把“自动驾驶”作为吸引年轻人的卖点。

2016年9月案件开审。特斯拉在庭审后曾发表声明称，“没有证据

表明Autopilot在事故发生时处于运行状态，Autopilot不是这一事故的

原因，因为该技术只是一种驾驶辅助系统，协助一名注意力集中的驾车

者。”

经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在

案发时处于自动驾驶状态。由此看来，在自动驾驶汽车真正到来之前，还

有很多影响是我们无法预估的，就算自动驾驶汽车将事故概率降至趋近于

0，也无法做到100%避免，那么如果发生碰撞是谁的过错？汽车制造商

还是车上人员？自动驾驶汽车的保险又该如何确定？等等，此外，随着我

们迈向更加自动化的未来，自动驾驶也将对道路质量、地图精度、网络环

境等有着更高的要求，任何一环出现问题，都有可能导致不可预估的风险。

因此，人工智能下的汽车自动驾驶技术在面对安全问题仍然是一个重大考

验。

四、案例分析

(1)案例分析

无人驾驶最为人称道的优势之一，就是将极大地降低甚至消除交通事

故率。人工智能完美处理运作，自动驾驶被认为将比人类驾驶员更靠谱。

在美国佛罗里达州的高速公路上，一辆特斯拉ModelS在自动驾驶模式

下，直接从侧面穿进大卡车的底部，挡风玻璃全部破碎，40岁驾驶员当

场死亡。驾驶员们因为厂商宣传的各种安全性能提升，他们的警惕性下降，

对于驾驶变得松懈。甚至操作更加大胆，因为知道有更多安全保障而不断

提升车速，反而将增加事故率。如何在无人驾驶模式下保证驾驶员的操作

规范，在人为和智能双结合驾驶模式下，如何帮助无人车拒绝来自主人的

不安全指令，或何时拒绝不合时宜的高速模式，当实时数据与驾驶员指令

存在矛盾时，计算机又该如何处理。

企业把公司利益作为目标，忽视法律和道德。特斯拉公司想要做大做

强，应该以创新进取为目标。自动驾驶技术作为未来汽车行业发展方向，

特斯拉没有理由放弃该技术的研发。但是企业不应该把公司利益作为唯一

目标，更不应该忽视法律和道德。针对该致死事件特斯拉回应：“自动驾

驶是一项辅助功能，要求驾驶员双手始终握住方向盘。”由此可见自动驾

驶技术尚不成熟，无人驾驶更无从谈起。既然自动驾驶汽车技术大部分尚

处于实验阶段，尚未完全成熟，因此特斯拉更应该谨慎商业化应用。

经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在

案发时处于自动驾驶状态。企业的社会责任要求企业必须超越