人工智能武器系统的风险挑战与应对策略.pdf

特别策划SPECIAL

PLANNING

人工智能武器系统的风险

挑战与应对策略

居梦周韵

【摘要】资料，并使用它们来创建新的培训材料，包括笔记、测验和

随着第四次工业革命浪潮的兴起，人工智能

作为新一轮颠覆性技术正在加速改变着人类的生产与生学习指南。军事训练模拟软件在美国陆军中使用了相当长的

活，由于其自身具备的自然语言处理、信息集成、数据分一段时间。它结合了系统工程、软件工程和计算机科学，以

析、目标识别、态势感知、机器学习等能力，人工智能在构建数字化模型，为士兵准备在作战期间部署的作战系统。

国防与军事领域得到了广泛应用。各国正在加紧布局将人美国海军已经招募了SAIC，OrbitalATK和Leidos等公司

工智能及其相关技术运用于各类军事场景中。本文即从梳来支持他们的计划。[1]

理总结当前人工智能武器系统的各主要场景着手，尝试对3.威胁识别与监控

将其应用功能作一分类并探究其中存在的安全风险和应用威胁识别、监控情况分析在很大程度上取决于前期完

挑战，结合现有规则研究未来人工智能军事化应用的安全成的情报、监视和侦察等操作。这些行动用于处理信息，

治理规则的发展方向及其建构路径，以期对我国参与和引以支持广泛的军事活动。用于执行情报、监视和侦察等操

领相关领域的国际规则制定提供建议和参考。作任务的无人系统可以帮助军事人员监控威胁并提高他们

的态势感知能力。无人机可以与人工智能集成，以巡逻边

【关键词】境地区，识别威胁，并向相关响应小组传播有关威胁的信

人工智能｜武器系统｜风险挑战｜应对

策略息，发出警报以便于响应团队快速制定应急处理预案。在

这一功能上人工智能及其应用将大大加强军事基地的安全，

提高士兵在战斗中对危机风险的预判能力，加快响应速度。

2023年4月，雷神技术公司推出了其新的人工智能辅助

一、人工智能武器系统的主要应用场景EO/IR系统RAIVEN。该解决方案使军事飞行员能够更快、

更准确地识别威胁。[2]

本文通过整理收集各类人工智武器系统能辅助军事应用4.网络安全

的场景，依据人工智能在军事行动中的阶段和功能划分为两即使是高度安全的军事系统也容易受到网络攻击，人

大类：即辅助作战与决策和自主作战行动。工智能可以比人类更准确地检测网络攻击，产生更少的误

（一）辅助作战与决策报结果，并根据现实世界的风险确定响应的优先级，识别

根据人工智能在辅助作战与决策功能中的定位和应用顺并标记网络钓鱼活动中经常使用的可疑电子邮件和消息的

序，本文将其大致划分为处理海量数据、模拟训练、威胁识类型，帮助安全团队在网络犯罪分子利用之前发现潜在漏

别与监控、网络安全、目标识别和辅助战略决策这六大类。洞，快速分析大量与事件相关的数据，以便安全团队能够

1.处理海量数据迅速采取行动遏制威胁。同时，人