2024大模型技术发展及治理实践报告.pdf

三大发展引擎（公共云、开源生态、高质量数据）+一套安全架构

大模型已成为新质生产力的重要组成部分，促进着科技融合创新、产业结构升级。同时，也面临着来自算力、算法、数据以及安全等方面的新挑战。现如今，兼顾发展与安全的治理模式逐渐成为共识，

本书基于大模型技术及其应用的风险现状与产业实践，形成了以公共云基础设施、开源生态、数据供给为发展引擎，以安全可信架构为保障的治理蓝图，为落地实现发展与安全兼顾的目标提供参考。

多角色全生命周期治理实践

大模型产业应用日益广泛，生态愈发成熟，其背后是逐渐清晰的角色划分和更加复杂的应用模式。在大模型研发应用的全生命周期中，基础供应者、技术支持者、服务提供者、服务使用者、内容

传播者等相关角色在产业发展和安全保障方面承担着不同的使命和责任。在大模型落地应用时，还有更多的工具/插件、文档及环境信息、知识库等被开发和利用，帮助提升大模型的能力。

在这种复杂多元的产业现状下，新风险和新挑战与日俱增。如何沉淀多方安全实践，明确全链路、多角色的技术与应用控制措施，促进协同治理，有效防范化解人工智能的风险，保障大模型技术

及应用的持续稳定发展，是本书阐述的重点。

大模型技术发展及治理实践报告

大模型技术发展编写单位

及治理实践报告

指导委员会专家委员会编写组组长

邵晓锋阿里巴巴集团风险委员会主席薛晖阿里巴巴科技伦理委员会委员AAIG主任张荣阿里云智能集团通义安全负责人

闻佳阿里巴巴集团公共事务总裁朱红儒阿里云智能集团标准化业务副总裁郝春亮中国电子技术标准化研究院网安中心数据部主任

俞思瑛阿里巴巴集团首席法务官袁媛阿里研究院院长

范科峰中国电子技术标准化研究院副院长姚相振中国电子技术标准化研究院网安中心主任

钱磊阿里巴巴集团安全部总裁胡影中国电子技术标准化研究院网安中心副主任

编写组主要成员关于我们

傅宏宇阿里研究院人工智能治理中心主任张妍婷中国电子技术标准化研究院大模型安全标准负责人阿里巴巴人工智能治理与可持续发展研究中心（AAIG）是阿里巴巴集团旗下的人工智能顶级研发团队，致

李娅莉阿里巴巴达摩院法务安全负责人黄晴中国电子技术标准化研究院工程师力于利用AI技术解决安全风险问题，并推动AI技术更加安全、可靠、可信赖和可用。团队成员在计算机视觉、

彭骏涛阿里云智能集团AI标准负责人自然语言理解、数据挖掘与网络安全等领域的国际顶级会议和期刊上发表论文100多篇，获得国际国内专

黄龙涛阿里安全资深算法专家利授权60余项，申请中专利200多项。

陈岳峰阿里安全AIGC安全算法负责人

AAIG贯彻“科技创新是最好的网络安全”的理念，所研发的人工智能产品涵盖内容安全、业务风控、网络

沈晖阿里巴巴达摩院安全总监