开源大模型应用指南1.0（风险治理篇）.docx

开源大模型应用指南1.0

（风险治理篇）

目 录

一、开源大模型发展态势 1

（一）从软件到大模型，开源的变”与不变” 1

（二）从垄断到开放，开源重塑AI生态 3

（三）从个人到国家，开源释放AI效能 6

二、开源大模型创新趋势 8

（一）开源语言大模型开启百家争鸣新纪元 8

（二）开源多模态大模型注入AI生态新活力 11

（三）开源AGENT引领人工智能发展新方向 14

三、开源大模型风险挑战 16

（一）开源大模型应用或导致安全风险升级 17

（二）开源大模型应用或面临多重规制要求 20

（三）开源模式或加剧大模型技术滥用风险 28

四、开源大模型治理全球动态 29

（一）国际组织高度重视开源大模型发展，积极探索全球人工智能治理方案..

............................................................30

（二）欧盟立法谋求人工智能监管主导权，开源大模型得有条件义务豁免....

............................................................31

（三）美国人工智能监管增强化趋势明显，国防领域率先探索开源大模型影响

............................................................33

（四）中国人工智能治理规则由软”及硬”，开源大模型或得包容性监管

............................................................34

五、企业应用开源大模型风险治理实操要点 46

（一）开源大模型治理体系构建 47

（二）开源大模型风险防控建议 49

六、国内开源大模型应用生态完善方向 77

图 目 录

图1大模型的开放访问等级 3

图2人工智能大模型许可协议合规流程 53

图3HuggingFaceModel格式Markdown截图 71

图4HuggingFaceLLaMA-3.1README.md截图 72

图5LLaMA-3.1CycloneDX模型组件转换信息截图 73

图6CycloneDXLLaMA-3.1模型卡片信息截图 74

图7CycloneDXLLaMA-3.1数据集信息演示截图 74

图8LLaMA-3.1CycloneDX文件子组件表示信息截图 76

表 目 录

表1经典开源语言大模型解析 9

表2经典开源多模态大模型解析 12

表3经典开源Agent解析 15

表4国内外典型大模型许可协议类型表 21

表5地方政府开源人工智能相关规范文件 35

表6常见人工智能开源许可协议合规要点解读 54

表7AI/MLBOM示例 70

一、开源大模型发展态势

开源作为一种开放、无边界的新型协作模式，从开源软件到开源硬件，再到开放数据、开源大模型，开源的应用范畴不断拓展，但开放和可复制的核心原则始终未变。较之于闭源大模型，开源不仅重塑了人工智能产业生态，开源大模型的发展和应用更为个人、企业、国家提供了更为广阔的发展天地。

（一）从软件到大模型，开源的“变”与“不变”

开源思想兴起于软件开发领域，软件开源核心在于源代码开放。

开源”（OpenSource）概念根植于上世纪五十年代以来自由开放的计算机文化，并随着开源软件促进会（OpenSourceInitiativeAssociation，OSI）经典开源定义的确立，逐渐形成共识。在传统软件行业，源代码凝结了创作者的设计思想、实现方法和具体表达，因此软件开源的核心集中体现在源代码的开放、可获取。历经数十年的发展，开源已成为现代软件产业的主流开发模式。目前，全球96%的商业代码库中包含开源软件，并且商业代码库中77%的代码直接源自开源软件。1

开源模式应用场景不断拓展，大模型开源形式多元。随着数字时代的到来和全球互联的加深，开源模式在不同场景的应用过程中逐渐衍生出开放数据、开源大模型等多种概念形态，成为人工智能技术创

新思科技：《2024年开源安全和风险分析报告》，网络地址：https:///zh-cn/software-integrity/resources/analyst-reports/open-source-security-risk-analysis.html，最后访问日期：2024年10月11日。

新、开放、共享、可持续发展的源头活水。不同于传统软件的源代码开源，实践中围绕大模型