从海洋到系统：探索以用户为中心的可解释人工智能在海事决策支持中的应用.pdfVIP

从海洋到系统：探索以用户为中心的可解释人工智能

在海事决策支持中的应用

DoreenJirak(),PieterMaes,ArmeesSaroukanoff,

andDirkvanRooy

UniversityofAntwerp,Paardenmarkt94,2000Antwerp,Belgium

{doreen.jirak,dirk.vanrooy}@uantwerpen.be

AntwerpMaritimeAcademy(AMA),NoordkasteelOost6,2030Antwerp,Belgium

{pieter.maes,armeen.saroukanoff}@hzs.be

本

译摘要随着自主技术越来越多地影响海事操作，理解为什么人工智能系统

中做出某个决策变得和它决定什么一样重要。在复杂且动态的海洋环境中，

1对人工智能的信任不仅取决于其性能，还取决于透明度和可解释性。本文

v强调了在海事领域有效的人机团队合作中可解释的人工智能（xAI）作为

4

8基础的重要性，在这个领域内，知情监督和共享理解至关重要。为了支持

0以用户为中心的xAI集成，我们提出了一项特定领域的调查设计，旨在捕

5

1捉海事专业人士对信任、可用性和可解释性的感知。我们的目标是提高意

.识并指导开发符合海员和海事团队需求的用户中心xAI系统。

9

0

5Keywords:人机决策·可解释人工智能（xAI）·信任·以用户为中心

2

:的设计·海事操作

v

i

x

r

a1介绍

海运业正在经历一场深刻的转型。随着人工智能、传感器融合和远程操

作的进步，海上自主水面船舶（MASS）[8]不再是投机性的概念，而是逐渐

成为现实。诸如远程驾驶室操作[2]等海上任务要求重新定义船员和海事当

局的角色与责任。然而，这种转变正在一个以保守性著称的领域内发生。与

拥有悠久自动化历史和集中化监管的航空业不同，海运业高度分散且适应缓

慢。海洋上的运营决策不仅受到技术限制的影响，还受到天气状况、团队动

态及长期形成的航海惯例的影响。因此，将自主和混合系统整合到海上操作

中提出了独特的挑战。可解释的人工智能（xAI）为弥合海事专业人士与AI

系统之间的信任鸿沟提供了一个有前景的途径[16]。通过使人工智能驱动决

2D.Jiraketal.

策背后的理由透明且可理解[13][11]，xAI有可能促进用户信心，并支持人

类操作员与智能系统的安全协作。在日常航海活动中，遵守COLREGs（海

上避碰规则）至关重要，在这种背景下，xAI可以帮助澄清自主系统如何解

读这些规则并在实时