对于核战争风险意味几何-RANDCorporation.PDF

EDWARD GEIST | ANDREW J. LOHN C O R P O R A T I O N This is a Chinese translation (simplified characters) of How Might Artificial Intelligence Affect the Risk of Nuclear War? PE-296/1-RC 本文件和文中所含商标受法律保护。本作品的知识产权归 兰德公司所有，不得用于商业用途。未经授权，严禁在网络 上发布本作品。本文件仅允许个人复制使用，但不得擅自修 改和删节。未经许可，不得复制或以其他形式将兰德公司的 任何研究文献用于商业用途。有关翻印和链接授权的信息， 请查询/pubs/permissions.html. 兰德公司的出版物未必代表其研究客户和赞助商的观点。 R® 是兰德公司的注册商标。 有关本出版物的更多信息，请查询/t/PE296 。 版权所有© 2018 兰德公司 今世界的核平衡依赖于几个不可持久 被视为具备这项能力，便可产生破坏稳定的作用。一种 的条件。计算能力和数据可用性的进 近乎实现的能力，也许比已经实现的能力更加危险。 步，让机器能够完成一度需要人类参 人工智能的发展轨迹，连同辅助信息技术和其他方 当与或被视为不可能的任务。这种人工 面的进步，将对未来25年的核安全问题产生重大影响。 智能 (AI) 也许会带来新的军事力量，从而引发军备竞 人工智能技术或延续近年来快速进化的趋势，抑或在现 赛，抑或增加国家在危机中有意或无意间动用核武的可 有技术成熟后趋于稳定。一些理论家认为，机器在未来 1 某个时候可能会发展出提高自身智力的能力，形成“超级 能性。兰德公司召开了一系列研讨会，集众多人工智能 与核安全领域的专家于一堂，共同探讨在2040年之前人 智能”，具备人类无法理解或控制的能力，但对于人工智 工智能会如何演变成一股稳定或不稳定的力量。 能的进化之路（包括形成超级智能的可能性）仍然众说 人工智能对核战略的影响，既取决于敌方对其军事 纷纭。有人设想取得初步突破之后会遭遇挫折；有人则 应用能力的认知，也同样取决于其实际能力。例如，一个 猜测会走循序渐进的道路。 国家要发展出定位和锁定敌方所有核武发射器的能力， 上述两种极端情况与核战争的前途关系不大。发展 在技术上极具挑战性，但这项能力却能产生出巨大的战 停滞（又称为人工智能的寒冬）只会导致当前核安全环 略优势。因此，各国都垂涎三尺，不顾一切技术困难追 境的微末变化。若超级智能成为现实，人工智能将令整 求这项能力，即使这样做有可能惊动对手，增加冲突的 个世界面目全非，在此过程中人类或将得到挽救或将走 可能性。从技术上说，高级人工智能仍难以克服源自数 向毁灭。另外两种情况下，人工智能的发展取得巨大进 据局限和信息论论证的障碍，但跟踪和瞄准系统只需要 步，实现许多新的功能，但至少在某些方面仍逊于人类、 1 容易出错，这似乎得到专家群体的更多认可，但对于这 些功能给国家安全带来的影响，专家们莫衷一是。有些“ 乐观派”倾向认为，要达到能够执行某些足以打破核平 衡的任务的人工智能是非常困难的，不大可能