人工智能基础模型的负责任开源.pdfVIP

执⾏摘要

执⾏摘要

1.开源基础模型已成为创新的重要驱动⼒之⼀

1

根据斯坦福⼤学《2024年AI指数报告》，2023年全球总共发布了149个基础模型，⽐

2022年发布的数量翻了⼀倍还多，⽽且更⾼⽐例是开源的。在这些新发布的模型中，有

65.7%是开源的，相⽐之下，2022年只有44.4%，2021年只有33.3%的模型是开源的。

2

根据全球开源社区HuggingFace的调研，Llama1和Llama2现在已经衍⽣出了3万个新

模型。多位专家预计，即将推出的Llama3B将会是“⾸个GPT-级别的开源模型”。

2.如何治理开源AI已成为短期内重要的未解决议题之⼀

本报告从安全治理的⻆度探讨开源AI的政策和实践。在制定相关政策时，各国需要综合考

虑促进创新⽣态、技术的安全性与可控性、隐私保护、知识产权、伦理与责任、国际合作与标

准制定、市场竞争环境、教育与公众参与等多个⽅⾯。这些维度与各国的战略考虑及监管取向

相结合，共同构成了开源AI的治理政策框架。

全球范围内，许多国家和地区，包括欧盟、美国、英国、法国、中国以及其他全球南⽅国

家，都在积极制定AI相关政策，开源AI也成为多项政策探索的核⼼。尽管这些政策旨在平衡技

术发展与安全需求，但在监管取向和具体条款的设计上存在显著差异，这部分原因是由于政策

制定过程中缺乏关于⻛险、收益及潜在影响的严谨证据。

3.前沿AI开源的主要争论

领先的基础模型研发机构近年决定开源其模型或限制对其模型的访问，引发了关于是否以

及如何开放能⼒⽇益增强的基础模型的争论。

我们识别了两种主要⽴场：⼀⽅是审慎开放的倡导者，他们担⼼前沿AI开源成为潜在不安

全技术“不可逆转的扩散”，并主张在确保安全的基础上逐步推进开放；另⼀⽅则是⿎励开放

的⽀持者，他们认为前沿AI开源是“确保对技术信任的唯⼀途径”，强调开放性对于促进创新

和透明度的重要性，并反对过度限制的做法。尽管在⻛险与收益的评估、开源⽅式、安保措施

以及监管政策等⽅⾯存在分歧，但两⽅都认同开放性在推动技术进步和促进社会福祉⽅⾯的重

要作⽤，以及前沿AI开源的潜在⻛险，都主张在开源前应采取必要的评测等安全措施。

此外，从企业视⻆看，有关开源和闭源的讨论和实践或多或少地带有商业利益的考量。

1StanfordHAI,“2024AIIndexReport”,2024-04-15,/report/.

2ClemDelangue,“Llama3isofficiallythefastestmodelfromreleaseto#1trendingonHuggingFace-injustafew

hours.”,2024-04-19,/ClementDelangue/status/.

I

基础模型的负责任开源

4.超越简单化的“开放与封闭”争论

虽然开放基础模型带来了发展与安全之间的紧张关系不可能完全消除，但我们提倡可以超

越简单化的⼀维视⻆，探索更丰富的发布政策设计空间。

将AI模型简单地划分为开源或闭源是⼀种过于简化的做法。开源AI的概念尚未得到清晰定

义，与开源软件不同，AI模型的“源代码”可能包括多种组件，这些组件的开放程度可以各

异。此外，从“完全开放”到“完全封闭”的发布选项实际上是多样的，需要明确的标准和定

义来权衡透明性、安全性和商业考量。

根据多个⻆度的安全和治理评测，我们依然⽆法得到开放或封闭模型哪个更有明显优势的

结论。综合模型安全性评测，开放模型和封闭模型均显⽰出对各种攻击的脆弱性。AI研发机构

治理评测指出，倾向于开放模型的机构和倾向于封闭模型的机构各有所⻓。

3

本