人工智能安全治理框架2.0版.docxVIP

安全治理框架2.0??智能

安全治理框架2.0

AISafetyGovernanceFramework2.0

全国?络安全标准化技术委员会国家计算机?络应急技术处理协调中?NationalTechnicalCommittee260onCybersecurityofSAC

全国?络安全标准化技术委员会

国家计算机?络应急技术处理协调中?

NationalComputerNetworkEmergencyResponseTechnicalTeam/CoordinationCenterofChina

2025年9?

目录

??智能安全治理原则. 2

??智能安全治理框架构成. 3

??智能安全?险分类. 4

??智能技术内?安全?险. 4

??智能技术应?安全?险. 6

??智能应?衍?安全?险. 8

技术应对措施 9

技术内?安全?险的应对措施 9

技术应?安全?险的应对措施 11

应?衍?安全?险的应对措施 12

综合治理措施 13

建?健全??智能安全法律法规 13

构建??智能科技伦理准则 13

提升研发应?全?命周期安全能? 14

强化开源?态安全和供应链安全 14

实施应?分类及安全?险分级管理 14

推???智能?成合成内容可追溯管理 14

安全有效释放重要?业应?需求 15

建设??智能安全测评体系 15

共享??智能安全?险威胁信息 15

完善数据安全和个?信息保护规范 15

增进协同应对??智能失控?险的共识 16

加???智能安全?才培养?度 16

提升全社会的??智能安全意识 16

促进??智能安全治理国际交流合作 16

??智能研发与应?的安全指引 17

??智能模型算法研发的安全开发指引 17

??智能应?建设部署的安全指引 19

??智能应?运?管理的安全指引 20

??智能应?访问使?的安全指引 21

附件1??智能安全?险的分级原则 24

附件2可信??智能基本准则 27

附件3术语 29

致谢 31

Content

PrinciplesforAIsafetygovernance 35

FrameworkforAIsafetygovernance 38

ClassificationofAIsafetyrisks 39

InherentsafetyrisksofAItechnology 40

ApplicationsafetyrisksassociatedwithAItechnology 43

DerivativesafetyrisksfromAIapplication 46

Technologicalcountermeasurestoaddressrisks 49

Safeguardsagainstinherentsafetyrisks 49

Safeguardsagainstapplicationsafetyrisks 51

Safeguardsagainstapplication-relatedsecondarysafetyrisks 53

Comprehensivegovernancemeasures 54

FormulatingandimprovinglawsandregulationsforAI

safety 55

..

EstablishingethicalprinciplesforAItechnology 55

Enhancingsafetythroughoutthefulllife-cycle,including

RDandapplication 56

Strengtheningopen-sourceecosystemsafetyandsupply

chainsafety 56

ImplementingAIapplicationclassificationandriskgradingmanagement 57

PromotingtraceablemanagementofAIGC 57

Unlockingkeyindustryapplicationdemandsinasafeand

effectivemanner 58

EstablishinganAIsafetyassessmentsystem 58

SharinginformationonAIrisksandthreats 59

Improvingdatasecurityandpersonalinfor