大模型态势管理对外分享0.3(1) conv.docxVIP

云安全中心-大模型安全态势管理

0

0

1

大模型蓬勃发展带来新的安全风险

大模型安全管理痛点

国家网络安全通报中心多次通报大模型组件安全漏洞

大模型安全管理痛点

大模型使用泛滥

?大模型热度持续上升?大模型能力在不断提升?大模型应用场景愈加广泛

?大模型部署使用门槛不断降低?云厂商帮助降低部署门槛?大模型API服务发展迅速?开源体系蓬勃发展

?安全团队可能未及时针对大模型应用体系制

定管理方案

引入新的风险

?大模型组件存在各式漏洞?组件配置不当触发未授权访问等风险?风险被利用，可能导致主机失陷、模型被投

毒、模型丢失、数据泄露?训练与推理使用敏感数据，可能引发数据泄

露，面临法律风险。

安全管理痛点

?如何持续发现大模型相关资产？?如何快速了解大模型资产的网络开放状态？?如何及时检测大模型资产的安全风险？

?如何实时监控大模型资产面临的攻击态势？

02

腾讯云云安全中心解决方案

大模型安全态势管理

大模型安全态势管理——围绕“大模型”提供资产识别、风险检测、攻击监控等能力

独立页面

资产识别 大模型组件布

公网扫描器

风险检测 安全AgentCVM

资产识别

风险检测

攻击监控

组件资产识别

?通过网络探测主机安全对大模型组件进行识别。?页面展示组件及关联资产，展示风险和网络攻击数量。

?提供资产对公网暴露的路径及原生风险。

大模型组件风险检测?通过网络扫描主机安全识别组件风险。

?展示组件漏洞与配置不当风险。

大模型网络攻击示警

?大模型组件漏洞的攻击利用行为示警。

大模型组件识别——解决“看见”的问题

大模型组件及资产(80+)

l网络扫描器从公网探测组件指纹。l主机安全agent从内部检查组件特征。

l关联资产信息、网络攻击数量、风险数量进行展示。

资产暴露路径

l资产详情可查看大模型资产面向公网暴露的路径。l网络产品关联l资产列表、主机进程通晒

l资产原生风险展示：主机漏洞、高危基线风险

l可关联查看资产遭受的网络攻击、大模型相关风险。

大模型组件风险检测——依托网络扫描及主机安全风险检测能力，提取大模型风险

风险检测

主机端检测

网络扫描

漏洞检测基线检查漏洞检测（200+）（6）（200+）

大模型组件漏洞攻击利用示警

支持识别的组件与漏洞清单

Stable-Llama-LLMChat商汤-Ollama ComfyUI 毕昇大模型ChatWiki混元Flowise

Stable-

Llama-

LLM

Chat

商汤-

deepseek Qdrant FastGPT

QwenMilvusMaxKBLobeChat星环科技ragflow

Factory VectorDB qanythingLanceDBchatboxllmstudio

Streamlit nextchatLLaMABoard

Kubeflow百度AI训练平台Perplexity Central

Dashboard

支持识别组件清单

DocsGPT H2OAgentGPTRay

Botkit BentoML

agenta LMStudio

PandoraNext Xinference

MindsDB vLLM

Kotaemon TensorRT-

SenseNebula LightLLM

SuperAGI OpenLLM

AWSQuickSight DB-GPT

AWS

HelpLook JupyterLab AItianhuLLMChaingradioTensorBoardSillyTavernfeastJan-AI

Diffusion fastchat-webui gpt4free

HuggingFace Dify FlowiseAIAutoGPTChuanhugptGemini

chainlit LangChain Sun-PanelLangFlowAnythingLLM商汤-SenseNebula

SpeechGPT MLflow 轻舟平台大模型

InvokeAI OpenWebUI ……

组件 支持漏洞数

mlflow46gradio