火山方舟大模型服务安全白皮书_60页_17mb.pptxVIP

;;;;目录;大模型安全威胁与落地挑战;;AI基础设施安全风险

针对算力与云服务基础设施，算力滥用是典型的安全风险，当集群基础设施能力缺乏精细的配额与准入控制，算力资源可能会被未经授权调用，甚至被用于非法挖矿或异常训练。此外网络隔离薄弱、供应链漏洞、访问控制缺陷都可能加速攻击者绕过控制面直达算力与数据。网络隔离薄弱常见风险包括资源直连公网、入/出站流量缺乏分级管控、容器间未进行有效隔离等；供应链漏洞则常见开源框架、驱动与容器镜像漏洞，版本污染或镜像植入会在训练/推理链路中纵深扩散。

模型与平台安全风险

企业使用大模型与大模型服务平台时，数据泄漏与不合规回答是主要风险。

数据泄露包括因为大模型服务平台不安全设计（如认证鉴权体系缺失、明文存放模型与数据、网络隔离不充分等）、安全漏洞导致的传统Web安全风险，进而导致大模型服务平台失陷，泄漏模型或用户数据；此外模型在推理中“记忆”敏感信息，一旦遭遇Prompt注入，可能被诱导输出个人或企业机密；对于基础模型，还可能存在参数提取、逆向推断或错误发布导致的权重外泄，造成模型泄漏。

内容安全方面，模型在用户引导下可能生成违法违规、违背公序良俗或存在安全隐患的内容。攻击者可通过恶意输入触发模型异常行为，导致错误回答、策略绕过或审计失效，输出不合规结果；训练与微调阶段还可能遭遇模型投毒，即通过污染样本使模型在特定触发词下被操控，进而将风险带入生产环境。

AI智能体安全风险

企业构建AI智能体时，提示词注入仍是关键风险。尤其当智能体具备工具调用能力时，恶意指令可能使其执行非预期任务，导致越权调用API、读取敏感数据、泄露系统提示词等后果。工具滥用是另一特征风险：拥有代码执行、数据库访问与外调能力的智能体，若缺乏最小权限与隔离机制，可能引发严重泄露与破坏。若智能体接入的第三方插件存在漏洞，还会引入供应链风险。

智能体同样面临传统Web安全威胁，需通过完善的鉴权、加密、隔离与访问控制，防止其失陷导致用户数据泄露；在多租户场景下，若未实施网络与数据隔离，??击者可能突破租户间的资源、数据与安全边界。

生成式人工智能背景下，安全风险已不再局限于传统应用层，而是沿“AI基础设施、大模型、智能体”链条逐步延伸。因此，从基础设施与大模型平台层面就着手防控至关重要。;与传统数据安全及隐私保护相比，大模型与生成式AI在数据与隐私安全领域面临的关键挑战集中体现在三方面：

生成式内容创作模式引发的数据确权难题

超大规模参数与强数据记忆能力带来的数据保密压力大模型“黑盒”特性对平台操作透明化提出的更高要求

数据安全性

用户数据随模型上云，需要云侧提供不低于私有化本地部署级别的安全防护，并防止通过模型泄露保密数据。数据离开受控的私域环境后，其在传输、存储和处理过程中的安全风险显著增加。云服务商必须提供等同或更高级别的加密、防攻击与访问控制能力，确保数据在全流程中“唯客户可见”。

数据可控性

用户需对数据全生命周期享有充分知情权与控制权，能够约束数据的使用范围与目的，严格杜绝任何未授权二次利用。覆盖用户使用MaaS平台推理与训练服务的全流程，平台应提供关于数据传输、使用、留存，以及加解密密钥调用的安全审计日志，最终实现并证明数据“唯客户所用”。

数据所有权

用户需确认其数据资产的最终权属不因模型服务使用而转移，且数据价值不受侵害。企业投入的专有数据、模型交互记录及生成产出物，均应被界定为企业核心数字资产。客户担忧商业秘密、知识产权等数据被服务商未经授权用于模型训练，导致其独有商业价值被稀释并转化为公共服务基础能力。因此需通过合约约束与技术手段双重保障，确保所有数据及其衍生成果“唯客户所有”。;人工智能技术的伦理、偏见、歧视等问题日益凸显，针对如何确保人工智能行业在符合社会价值观的框架下实现健康发展，当前各国正加快构法律法规要求与合规监管框架建设。对于人工智能服务提供者和使用者而言，严格遵守法律监管要求至关重要。

在全球范围内，欧盟于2024年8月正式生效《人工智能法案》，作为全球首部全面针对人工智能的法案，该法案采用四级风险模型，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则，禁止违背欧盟价值观、有害的人工智能服务发展；美国推出《人工智能创新未来法案》强调了国际标准的制定、数据共享和安全性研究的重要性。

中国的人工智能监管体系则以《网络安全法》、《数据安全法》、《个人信息保护法》为三大法律基石，为人工智能领域合规管理提供了坚实的法律基础。在此基础上，各部委陆续出台

《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法规要求，确立了服务提供者主体责任，明确内容合规与算法公平性等要求，并建立了人工智能安全评估和