20251024 人工智能安全治理框架2.0.pdfVIP

⼈⼯智能

安全治理框架2.0

AISafetyGovernanceFramework2.0

全国⽹络安全标准化技术委员会

NationalTechnicalCommittee260onCybersecurityofSAC

国家计算机⽹络应急技术处理协调中⼼

NationalComputerNetworkEmergencyResponseTechnicalTeam/CoordinationCenterofChina

2025年9⽉

目录

1.⼈⼯智能安全治理原则2

2.⼈⼯智能安全治理框架构成3

3.⼈⼯智能安全⻛险分类4

3.1
⼈⼯智能技术内⽣安全⻛险4

3.2
⼈⼯智能技术应⽤安全⻛险6

3.3
⼈⼯智能应⽤衍⽣安全⻛险8

4.技术应对措施9

4.1
技术内⽣安全⻛险的应对措施9

4.2
技术应⽤安全⻛险的应对措施11

4.3
应⽤衍⽣安全⻛险的应对措施12

5.综合治理措施13

5.1
建⽴健全⼈⼯智能安全法律法规13

5.2
构建⼈⼯智能科技伦理准则13

5.3
提升研发应⽤全⽣命周期安全能⼒14

5.4
强化开源⽣态安全和供应链安全14

5.5
实施应⽤分类及安全⻛险分级管理14

5.6
推⼴⼈⼯智能⽣成合成内容可追溯管理14

5.7
安全有效释放重要⾏业应⽤需求15

5.8
建设⼈⼯智能安全测评体系15

5.9
共享⼈⼯智能安全⻛险威胁信息15

5.10
完善数据安全和个⼈信息保护规范15

5.11
增进协同应对⼈⼯智能失控⻛险的共识16

5.12
加⼤⼈⼯智能安全⼈才培养⼒度16

5.13
提升全社会的⼈⼯智能安全意识16

5.14
促进⼈⼯智能安全治理国际交流合作16

6.⼈⼯智能研发与应⽤的安全指引17

6.1
⼈⼯智能模型算法研发的安全开发指引17

6.2
⼈⼯智能应⽤建设部署的安全指引19

6.3
⼈⼯智能应⽤运⾏管理的安全指引20

6.4
⼈⼯智能应⽤访问使⽤的安全指引21

附件1
⼈⼯智能安全⻛险的分级原则24

附件2
可信⼈⼯智能基本准则27

附件3
术

语29

致谢31

Content

1.PrinciplesforAIsafetygovernance35

2.FrameworkforAIsafetygovernance38

3.ClassificationofAIsafetyrisks39

3.1InherentsafetyrisksofAItechnology40

3.2ApplicationsafetyrisksassociatedwithAItechnology43

3.3DerivativesafetyrisksfromAIapplication46

4.Technologicalcountermeasurestoaddressrisks49

4.1Safeguardsagainstinherentsafetyrisks49

4.2Safeguardsagainstapplicationsafetyrisks51

4.3Safeguardsagainstapplication-relatedsecondarysafety

risks

53

5.Comprehensivegovernancemeasures54

5.1Formulatingandimprovinglawsandregulationsfor