国家安全视角的生成式人工智能安全治理研究.pdfVIP

网络空间战略论坛

CyberspaceStrategyForum

国家安全视角的生成式人工智能安全治理研究

文│中国人民公安大学国家安全学院苗争鸣清华大学自动化系许展玮香港中文大学（深圳）人文社科学院倪桂桦

【摘要】当前，生成式人工智能大模型技术快速赋能社会发展，但也带来诸多安全问题，特别是在国

家安全领域产生重要影响。一方面，生成式人工智能技术赋能国家安全数据情报搜集、优化安全信息分析

决策、推动国家安全体系和能力现代化。另一方面，生成式人工智能技术也产生信息过载引发认知污染、

地缘政治博弈，出现安全风险、电力耗能过多导致能源紧缺等安全问题。因此，需要建立全流程多主体的

生成式人工智能监督机制，从技术、认知及国际合作层面，升级生成式人工智能治理的方式，更好地赋能

国家安全。

【关键词】国家安全；生成式人工智能；安全影响；治理措施

生成式人工智能是基于算法、模型和规则，情报信息，迅速识别潜在威胁，并预测未来安全风险，

通过学习大规模数据集，能够生成文本、特别是能够提前预警危害国家安全的行动或异常行

图片、声音、视频、代码等的技术，其工作原理主为，并提出多种应对决策选择，为决策者提供支持。

要基于深度学习技术。当前，生成式人工智能技术例如，美国国土安全部已宣布将强化利用人工智能应

被广泛应用，直接关系国家安全。一方面，生成式用程序，全面提高边境安全、网络安全和运输安全等，

人工智能技术提升国家安全情报数据的分析与收集并在具体执法过程中借助生成式人工智能技术，提供

能力，优化国家安全事项决策部署，增强军事领域文档搜集与总结搜索结果的功能，通过整合数据、情

武器系统的自主决策效能；另一方面，生成式人工报和文档，促进执法工作开展。

智能技术的低门槛、平民化造成某些具有安全隐患生成式人工智能技术可构建高精度虚拟环境，

的技术过度扩散；深度伪造技术生成的虚假信息塑为国家安全领域提供模拟危机场景的平台，实现模

造民众认知，影响国家政治安全。此外，生成式人拟应急演练和预案制定，从而提升国家应对突发事

工智能因耗能过多可能存在引发能源匮乏等风险，件的能力。国家安全机构通过运用生成式人工智能

导致国家或地区出现能源短缺的隐患。因此，需要技术，优化资源配置，实现智能化管理和调度，整

从行为主体、技术本身、认知塑造和国际合作视角合国家安全各领域资源，确保资源有效管理和调配，

提出应对解决措施。进而提高维护国家安全的整体效能。例如，特朗普

新政府将人工智能技术融入政策分析，并采用新的

一、生成式人工智能大模型深度赋能分析技术制定跨部门协作策略，打破联邦机构的官

国家安全僚壁垒，进而改革国家安全委员会的运作机制。美

国政府还使用人工智能技术加强五角大楼与各相关

生成式人工智能技术正成为维护国家安全的重要部门的联系，美国国防部利用人工智能大模型技术

工具。生成式人工智能技术能够优化国家安全决策过生成多种政策选择，并通过深度学习技术提取国内

程，合理分配资源，也可提升国防领域武器系统智能其他机构提供的数据信息，整合不同机构数据，创

化水平，提升攻防效能，还有助于构建国家安全预警建美军战略层面作战规划，并提供基于数据驱动的

防御体系，推进国家安全体系和能力现代化建设。政策建议。

（一）优化国家安全决策与资源配置机制（二）提升国防领域武器系统与攻击防御效能