专家会议分析.PDFVIP

专家会议 自主武器系统 技术、军事、法律和人道视角 瑞士，日内瓦 2014年3月26 日－28 日 自主武器系统：技术、军事、法律和人道视角 1 专家会议，瑞士日内瓦，2014年3月26 日－28 日 报 告 红十字国际委员会东亚地区代表处 中国北京市建国门外大街9号 齐家园外交公寓3-2 邮编：100600 电话：+86 10 8532 3290 传真：+86 10 6532 0633 邮箱：bej_beijing@ © ICRC, 03.2016 自主武器系统 技术、军事、法律和人道视角 专家会议 瑞士，日内瓦 2014年3月26 日－28 日 第一部分：红十字国际委员会总结报告1 专家会议——自主武器系统：技术、军事、法律和人道视角，2014年3月26-28 日，瑞士 日内瓦。 会议要点 红十字国际委员会 (ICRC) 专家会议的目的是更好地理解自主武器系统带来的问题，分享 政府代表、独立专家和ICRC各自的看法。来自21个国家的代表和13位独立专家参加了本次会 议。下文列出了会议发言人和参会专家的部分发言要点，尽管这些发言并不一定反映一致的 观点。 尚不存在国际认可的自主武器系统的定义。在本次会议中，“自主武器系统”被定义为能 够独立选择和攻击目标的武器，即在捕捉、追踪、选择和攻击目标的“关键功能”上具有自主 性的武器。 在过去十年中，民用机器人迅猛发展，但现有的自主机器人系统有着一些重要的限制：它 们不能进行人类可以完成的复杂决策和推理；它们几乎不能感知周围环境或适应无法预知的变 化；因此，它们不能在简单的环境之外运行。机器人系统越来越多的自主性还会伴随着运行方 式上更大的不可预测性。 军方对不断增加武器系统自主性的兴趣受下列因素的驱动：有获得更大军事能力的潜力， 却又降低了使用者 (武装部队) 的风险、运行成本、人员要求以及对通信链的依赖。但是，目前 对民用自主系统的限制同样适用于包括武器系统在内的军事应用。 在选择和攻击目标的关键功能方面具有极大自主性的武器系统已经投入使用。现在倾向于 在如下方面对这些武器进行严格限制：所执行的任务 (例如，防御性而不是进攻性行动) 、可以 攻击的目标类型 (例如，车辆和物体而不是人员) 以及使用的环境 (例如，简单、静态、可预测 的环境而不是复杂、动态、不可预测的环境) 。对现有这些武器系统进行更仔细的分析，可以 深入了解何种程度的自主性会被视为可接受的，以及何种程度的人类控制会被视为恰当的。 高度复杂且可编程以便能独立判断自身行为、做出复杂决定并适应环境的自主武器系统 (有些人称之为具有“人工智能”的“完全自主武器系统”) 尚不存在。尽管人们对于未来科技 是否有一天可以实现这种高水平的自主性有着不同的观点，但值得注意的是，如今的机器非常 擅于进行定量分析、重复动作和资料整理，而人类则在定性判断和推理方面更胜一筹。 人们认识到在选择目标和攻击目标方面保持人类控制的重要性，但对于什么是“有意义 的人类控制”还不够明确。有人认为，“完全自主的”武器系统——从定义上看是指在无人监 1 首次发表于2014年5月9 日：/eng/resources/documents/report/05-13-autonomous-weapons-report.htm 自主武器系统：技术、军事、法律和人道视角 2 专家会议，瑞士日内瓦，2014年3月26 日－28 日 督的情况下运行的武器——只有在高强度的冲突中且在非常有限的情况下才可能是有用的。但 是，基于对使用武力进行系统控制的军事要求，在人类监督之下运行的自主武器系统很可能会 发挥更大的军事效用。 英国和美国已经制定并公布了关于自主武器系统的国家政策。美国的政策表示，“自主和 半自主武器系统在设计上应允许指挥官和操作员对使用武力进行适度的人类判断”。英国的政 策则是不允许“武器的自主投放”，而且“……武器系统的运行始终要处于人类控制之下”。 其他国家要么尚未制定相关政策，要么还没有公开讨论过这个问题。