民航人工智能的潜在风险与应对策略——以波音MCAS为例.pdfVIP

第第2626卷第卷第11期期南京航空航天大学学报南京航空航天大学学报（（社会科学版社会科学版））VolVol..2626NoNo..11年22月月JournalofNanjingUniversityofAeronauticsandAstronauticsJournalofNanjingUniversityofAeronauticsandAstronautics((SocialSciencesSocialSciences))FebFeb.

Doi：10.16297/j.nuaass.202401011

民航人工智能的潜在风险与应对策略

——以波音MCAS为例

郑文革

摘要：2018年10月至2019年3月短短半年之内发生了两起极其相似的空难，事故的

原因均指向了波音公司的人工智能系统MCAS，这让人们意识到民航人工智能存在一

系列潜在风险。通过对MCAS引起的两起空难的分析，可以发现民航人工智能可能会

存在设计缺陷、科技伦理风险、智能权限不当、监管失职、飞行员应对失策等方面的问

题。为了应对上述潜在风险，首先要设计负责任的民航人工智能，其次要在技术和制

度两个层面加强对民航人工智能的监管，最后要建立智能飞行人机规范，保证人掌握

最高权限，使人工智能始终处于人的监督之下。

关键词：人工智能；民航；科技伦理；监管

中图分类号：F562.3文献标志码：A文章编号：1671‐2129（2024）01‐0103‐08

一、两起空难引发的思考

2018年10月29日，印尼狮航集团JT610航班的波音737-MAX8客机从雅加达苏加诺-哈达

国际机场飞往邦加槟港，飞机起飞13分钟后失联，后在加拉璜地区附近坠毁，飞机上189人全部

遇难，其中乘客181人，机组人员8人。2019年10月25日，印尼国家运输安全委员会（KNKT）在

雅加达总部举行新闻发布会，公布了该起空难长达322页的最终调查报告。报告显示，波音737

MAX8客机防失速的机动特性增强系统（MCAS）是导致空难发生的直接原因，报告同时指出，

MCAS并非一个安全可靠的设计并且没有纠错机制。①

时隔不到半年，2019年3月10日8时38分，埃塞俄比亚航空公司ET302航班的波音737-

MAX8客机从埃塞俄比亚首都亚的斯亚贝巴起飞，起飞后在距首都约45公里的比绍夫图附近坠

毁，机上157人全部遇难，其中乘客149人，机组人员8人。2019年3月17日，埃塞俄比亚交通部

发言人表示，通过对失事客机黑匣子数据的分析，这起空难与2018年10月印尼狮航空难有“明

显的相似之处”。

半年之内相同型号的波音737-MAX8飞机发生极为相似的两起空难，固然存在机械故障、

监管不力、飞行员应对失误等问题，但是罪魁祸首是该型号飞机预装的MCAS智能系统。波音

基金项目：司法部法治建设与法学理论研究项目（21SFB4016）

收稿日期：2023-04-16

作者简介：郑文革，男，南京航空航天大学人文与社会科学学院讲师，计算机科学与技术学院（人工智能学院）博

士后，主要研究方向为法理学、人工智能法学。

①SeetoFINALKNKT.4AircraftAccidentInvestigationReport，October2019.

103

手册里对该系统是这样描述的：MCAS是速度配平系统的一种功能，另一种是速度配平（speed

trim），MCAS优先级高于速度配平；MCAS的作用是为了提高飞机在高马赫和大迎角条件下的速

度稳定性。MCAS以高速模式控制安定面，增强飞机俯仰可操控性。MCAS无须人工启动，当空

速及迎角超过特定的门限值时会自动介入。①

MCAS智