百度智能云千帆大模型平台-.pptxVIP

干帆大模型平台

安全白皮书

2025年9月

CONTENTS

目录

01概述1

02大模型平台主要安全挑战2

03千帆平台安全保障体系4

3.1.安全挑战应对策略

3.2.千帆平台安全保障框架

04千帆平台安全保障能力5

4.1.千帆平台安全

4.2.千帆模型安全

4.3.千帆数据安全

4.4.千帆内容安全

4.5.千帆安全运营

4.6.千帆安全合规

05千帆平台安全最佳实践13

5.1.基于混合云网络通过客户内网调用千帆大模型

06总结和展望14

百度智能云千帆大模型平台（以下简称“千帆平台”）是企业级一站式大模型与

AI原生应用开发及服务平台，不仅提供了包括文心一言系列大模型和主流第三方

开源大模型，还提供了各种AI原生应用及服务开发工具链，完备的流程助力各行业

企业级云原生AI应用需求落地。

面向不同的企业AI能力需求，千帆平台提供不同的功能服务。例如，在线教育、

智能营销等应用场景，可在千帆平台一站式体验及构建行业解决方案并在业务端

集成，解决大模型应用落地最后一公里问题；细分领域如电销场景的商品介绍、

推广文章等需要针对特定领域数据集进行学习，可在千帆平台使用模型精调功能，

快速生成行业场景定制模型服务，满足用户特定需求。

随着大模型从实验室走向产业核心场景，平台化部署已成为企业集成AI能力的

核心载体。大模型平台整合模型托管、API服务、微调工具、应用组件生态等能力，

平台的安全漏洞不仅会导致模型失效，更可能引发系统性数据泄露与业务崩塌。

所以，后续内容将以风险为纲、以技术为轴，逐章解构大模型平台面临的安全挑战

与应对措施，为信赖百度的用户更加深入了解千帆大模型平台的安全性，与用户

一同构建一个安全、稳定且可信赖的大模型生态。

01

概述

-1-

平台安全挑战

大模型平台安全稳定运行是上层模型服务的基础，是确保模型应用效果和服务质量的重要保障。大模型

平台作为模型应用的核心基础设施，其安全稳定运行直接关系到上层模型服务的性能和可靠性。

然而，在大模型平台的设计、开发过程中，为了追求快速部署和便捷使用，可能会忽视基础安全配置。

这种忽视可能导致平台存在安全缺陷，给攻击者留下可乘之机。例如，平台可能存在未授权访问的风险，

使得攻击者能够轻松获取平台内部数据和模型信息。大模型平台上会承载模型服务、数据管理、模型

管理等多种功能。这些功能相互关联、相互依存，共同构成了一个完整的模型应用生态。然而，一旦

平台出现安全漏洞，将会导致模型泄露、数据泄露、服务中断等安全事件。这些事件不仅会对平台本身

造成严重影响，还会给用户带来难以估量的损失。

大模型安全挑战

基础模型自身的安全性问题。在当下的人工智能领域，大模型数量呈现出爆发式增长，模型厂商分布

广泛，覆盖全球多个国家和地区，大模型呈现出百花齐放的态势。大模型平台通常会预置多种开源及

闭源大模型，也允许用户上传自己的大模型，为用户提供丰富灵活的模型服务。但大模型平台在给用户

带来灵活便利的同时，也可能引入安全风险。由于不同的模型厂商可能采用不同的评估指标和测试方法，

缺少统一标准，导致模型性能、安全性难以进行客观、准确的比较，也不可避免地出现良莠不齐的问题，

大模型也有可能被恶意植入后门、语料投毒等安全问题。一旦开发者基于该模型进行应用开发，并对

公众提供服务时，可能引发数据泄露、生成有害内容等安全隐患。

精调模型的防泄漏问题。用户使用数据集对基础模型精调，生成行业或垂类模型。模型训练中使用了

客户大量的私域数据及算力资源，其数据价值和训练成本较高。精调模型在存储和传输过程中，可能

存在泄露、被窃取等安全隐患。大模型平台或依赖的公有云其他的存储系统出现安全漏洞，并且模型

本身未采用数据加密等安全措施的情况下，精调模型有可能被攻击者窃取、运行，造成模型及数据泄露。

同时，精调模型在不同系统、平台间传输时，若安全措施未到位，攻击者可以在数据传输的链路中，

通过中间人攻击等手段，截获并篡改传输数据，获取精调模型的完整内容。

02

大模型平台主要安全挑战

-2-

数据安全挑战

用户在使用大模型平台的过程中，会将私