2024开源大模型应用指南1.0（风险治理篇）.pdf

开源大模型应用指南1.0

（风险治理篇）

云计算开源产业联盟

2024年11月

I

版权声明

本报告版权属于中国信息通信研究院，并受法律保护。

转载、摘编或利用其它方式使用本报告文字或者观点的，应

注明“来源：中国信息通信研究院”。违反上述声明者，本院

将追究其相关法律责任。

I

编制说明

本指南由云计算开源产业联盟可信开源合规计划开源人工智能

治理工作组撰写，限于撰写组时间、知识局限以及技术、社会发展迭

代等因素，内容恐有疏漏，烦请各位读者不吝指正。

在编写过程中得到多家单位的大力支持，在此特别致谢中国信息

通信研究院、中兴通讯股份有限公司、中国平安人寿保险股份有限公

司、东方证券股份有限公司、中国光大银行股份有限公司、北京抖音

信息服务有限公司、百度在线网络技术（北京）有限公司、天翼数字

生活科技有限公司、亚信科技(中国)有限公司、深圳开源互联网安全

技术有限公司、鼎道智联（北京）科技有限公司、北京大学人工智能

研究院AI安全与治理中心、北京大学武汉人工智能研究院、OpenSDV

汽车软件开源联盟、开源社、重庆中科汽车软件创新中心、上海市锦

天城律师事务所等单位的各位专家，感谢各位秉承开源精神，协同共

创，最终完成本指南的撰写工作。

主要撰稿人：张燕、郭雪、俊哲、孟伟、辜凌云、赵云虎、丁华、

陈岱源、王帅、张小丰、陶冶、刘东威、孙珊珊、李梦欢、马红伟、

严雪伦、周飞、李炫、张庆、成思敏、柴丹、李晓丽、李响、李欣博、

沈杨、洪烨、梁尧。

II

前言

近年来，开源模式与人工智能技术加速融合，有力地打破了闭

源人工智能技术垄断、加速人工智能大模型技术持续创新、拓展大

模型应用路径、重塑人工智能产业生态，同时开源大模型的创新发

展和应用还为个人、企业和国家的发展提供更为广阔的发展天地。

然而，大模型技术在给人类带来生活方式转变和生产方式革新的同

时，也引入了安全、合规等多方面风险挑战，甚至可能对人类社会

的可持续发展带来负面影响。大模型开源增加了人工智能系统风险

暴露和被恶意利用的可能性，开源许可模式的应用也使得人工智能

技术利用的合规风险更加复杂，开源大模型的可得性亦可能加剧开

源大模型滥用风险。

为保障开源大模型技术健康有序发展，充分释放人工智能技术

效能，相关政策或法规纷纷出台，除人工智能治理宏观监管要求

外，越来越多的国家政府开始关注开源大模型的针对性、包容性监

管。在具体风险治理层面，企业也开始探索构建开源大模型综合性

治理体系，并建立开源大模型风险防控机制，以最大化开源大模型

应用实效。

本指南结合中国信通院开源研究工作，分析总结开源大模型发

展态势，重点围绕开源大模型应用风险及治理动态、治理措施展开

研究，为企业安全、合规、高效应用开源大模型提供参考。

III

目录

版权声明I

一、开源大模型发展态势1

（一）从软件到大模型，开源的变”与不变”1

（二）从垄断到开放，开源重塑AI生态3

（三）从个人到国家，开源释放AI效能6

二、开源大模型创新趋势8

（一）开源语言大模型开启百家争鸣新纪元8

（二）开源多模态大模型注入AI生态新活力11

（三）开源AGENT引领人工智能发展新方向14

三、开源大模型风险挑战16

（一）开源大模型应用或导致安全风险升级17

（二）开源大模型应用或面临多重规制要求20

（三）开源模式或加剧大模型技术滥用风险28

四、开源大模型治理全球动态29

（一）国际组织高度重视开源大模型发展，积极探索全球人工智能治理方案..

30

（二）欧盟立法谋求人工智能监管主导权，开源大模型得有条件义务豁免

31

（三