加快建立人工智能安全监管制度.pdfVIP

■BB■圃.党课精选•

加快建立

人工智能安全监管制度

»中共中!fe党校(国家行政学院)国阮战略研究院助理研究员赵申洪

^广大党员干部和群众。3小时(讲课2小时，讨论1小时)。

广大党员干部和群众通过对本课的学习，充分认识人工智能火爆”背

目的后的风险点,深入理解加快建立人工智能安全监管制度的意义，准确

把握加快建立人工智能安全监管制度的着力点,进而不断提高人工智

能技术的可靠性和可控性，为中国式现代化提供坚实的安全保障。

习近平总书记指出：“人工智能是新一轮科技革命和产业变

革的重要驱动力量，将对全球经济社会发展和人类文明进步产

生深远影响。”党的二十届三中全会审议通过的《中共中央关于

进一步全面深化改革、推进中国式现代化的决定》明确提出，“建

立人工智能安全监管制度’和“完善生成式人工智能发展和管理

机制”，为推动人工智能领域的技术进步、产业发展与安全保障

指明了前进方向。国家安全是安邦定国的重要基石，加快建立

026党课爹名

2025年.第3朗

•党课精选.■■■■■

人工智能安全监管制度对于维护国家安全至关重要。这不仅涉

及技术层面的风险评估和管控，还关乎法律法规的制定和执行，

以及国际合作与交流等。新时代新征程，我们要充分发挥法律

和政策的保障作用，有效防范化解人工智能发展带来的各类安

全风险，对人工智能进行分级分类监管，逐步构建起具有中国特

色的人工智能安全监管制度。

一、人工智能“火爆”背后的风险点

近年来，人工智能尤其是生成式人工智能的快速发展，对人

类生产生活产生了深刻影响。生成式人工智能是指基于算法、

模型、规则生成文本、图片、声音、视频、代码等内容的技术。在

海量数据和强大算力的支撑下，听得懂、说得出、能互动的生成

式人工智能快速迭代升级，呈现出良好互动性、高度通用性、智

能生成性等特征，正与各行各业形成更加刚性、高频、泛在、深度

的联结，但也存在一定潜在风险。

(一)数据安全与隐私保护方面的风险

为充分理解特定情境中的显性和隐性信息，并精确识别人

类的意图，人工智能系统从单一的文本信息扩展到了包含文本、

图像和声音在内的多模态感知领域。虽然这种扩展增强了人工

智能系统的决策力，但也可能带来数据安全与隐私保护方面的

风险。

mmm027

2025年•第3期

■■■■■■•党课楮选•

从辅助诊断、辅助决策，到辅助治疗、辅助

规划手术，“辅助”是AI医疗的一个关键词

一是数据质量和可用性方面。人工智能大模型依靠海量数

据进行训练和推理，因此，数据的规模、数据结构的均衡程度以

及数据内容的准确性都会直接影响人工智能大模型的安全性和

输出内容的质量。高质量的数据能够显著提升模型的准确性和

可靠性，反之则可能导致决策错误甚至人工智能系统失效。目

前，生成式人工智能在实际操作中可能会输出不真实的信息，这

028党课華名

2025年•第3期

•党课精选•HBHH!

一问题被业界称为人工智能的“幻觉或事实编造”。例如，一

些医疗人工智能诊断系统因信息偏差，增加了医疗误诊风险。

此外，数据的可用性问题也不容忽视，尤其在公共数据共享和跨

境数据传输过程中，存在一定的技术障碍和安全隐患。

二是数据隐私与保护方面。数据隐私问题在人工智能的应

用中显得尤为突出。隐私是自然人不愿为他人知晓的私密空

间、私密活动、私密信息。自然人享有隐私权，任何组织和个人

不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。隐