AI联合课题：第十章 积极应对AI伦理、安全新挑战.pdfVIP

证券研究报告2024.07.01

第十章积极应对AI伦理、安全新挑战

王乃玺分析员本章摘要

SAC执证编号：S0080523070009

人工智能（AI）的广泛应用在带来巨大新机遇的同时也带来特殊的伦理与

SFCCERef：BRU955

naixi.wang@安全挑战。与以往三次产业革命带来的对劳工权利和环境治理的重视不同，

AI的特殊性及其迅速发展给人类社会带来更广泛、更深刻、更具颠覆性的

伦理和安全问题。AI伦理中的公平与正义尤为重要，人工智能可能进一步

加剧偏见与歧视、扩大数字鸿沟，并可能给劳动力市场带来影响。AI的类

人性和互动性使其意识与权利也成为当前伦理讨论新前沿，如何理解和处

理AI对人类尊严的潜在冲击也是一个重要挑战。中国在AI伦理方面的讨论

仍在持续推进中，需深化研究、推进治理理念。

AI的安全风险涉及多个维度。首先，国家安全是核心方面，AI具有战略重

要性，AI不当使用以及信息操纵可损害国家战略、经济与信息安全。其次，

AI体系安全是基础，包括软、硬件等基础设施的供应安全、以庞大市场为

基础的需求安全、其应用部署安全等，需确保AI生态系统的独立性、完整

性和抗攻击能力。数据安全是AI系统能否有效、高质量运行的关键。大部

分国家都正遵循并升级过往在信息技术和数字科技中的管理模式，以完善

数据安全治理。AI应用中广泛出现的错误与虚假信息、信息茧房、隐私泄

露等问题对社会安全带来挑战，甚至可能危害公民人身安全。

不同经济体的规模、文化价值观、AI发展水平迥异，其AI治理理念和策略

也存在显著差异。AI伦理原则是全球AI治理的基石，目前在国际层面已出

台了一些具有普适性的原则。伦理、安全与效率之间的权衡对各国治理策

略有重要影响，不同治理策略大致可分为三种类型：强调效率的创新优先

型、重视伦理与安全的综合风险管理型、以及平衡创新与安全的平衡管控

型。中国AI治理也面临自己的挑战，如政策韧性和公众参与不足，以及执

法力度有待提升。建议未来中国的AI治理体系：1）重视AI伦理并完善监

管框架；2）聚焦执法落地，有效防控AI安全风险；3）推进灵活的、适应

性强的治理模式；4）提升AI治理中的公众参与度；5）积极参与并主导国

际间的协调合作。

请仔细阅读在本报告尾部的重要法律声明

1

本中金公司研报由huaqing.hu@下载

一、人工智能带来伦理与安全新挑战

人工智能（AI）的发展及其在经济、金融、社会、国防等不同领域中的广泛应用是第四次产业革命和数字

经济中的一个重要组成部分。特别是OpenAI于2022年11月30日发布的ChatGPT，在推出后仅两个月

1

就达到了每月1亿活跃用户数，引发了新一轮以生成式AI引领的人工智能研发浪