2025DeepSeek应用场景安全问题和防范措施.docx

DeepSeek

应用场景安全问题和防范措施

2025.3

NI

898

目录

CONTENTS

DeepSeek安全问题的特点及目前的安全方案框架

DeepSeek模型的5个安全问题

DeepSeek私有化部署的2个安全问题

DeepSeek外延的3个安全问题

PART01

DeepSeek安全问题的特点及目前的安全方案框架

6DeepSeek的快速发展与安全问题

6

AI发展的独到之处就在于并非由权威主导，而是由广大民营创业者主导。另外，世界各地的开发者和研究机构通过开源平台共享代码和研究成果，这种全球协作加速了技术的传播和创新。其发展速度具有以下显著特点：

创新与迭代速度快

DeepSeek的版本从V2、V2.5、V3到R1等更新仅用了半年多

用户增长快

上线18天，日活用户数达到1500万，而ChatGPT达到同样的数字，花了244天。

上线20天内，日活跃用户突破2000万，成为全球增速最快的AI应用。

上线7天，斩获1.1亿全球用户，登顶多个国家应用商店

安全问题特点突出

威胁难以预测

攻防非对称

法律问题：如数据隐私、知识产权、责任归属、伦理道德等

7DeepSeek安全问题的特点

7

安全问题特点1：威胁难以预测

传统技术工具与人工智能技术特性迥异。

传统技术工具即便复杂，其设计原理和运行逻辑也能被人掌握，行为可预测。

传统技术工具的逻辑相对固定行为可预测、容易控制

8DeepSeek安全问题的特点

8

安全问题特点1：威胁难以预测

现代人工智能技术主要是指大模型技术，是基于深度学习的人工神经网络模型的数据智能，犹如“黑箱”，使用者仅知其好用，却不明原理，也无法排除错误和安全隐患。同时，大模型在推理阶段还具有系统“涌现”的可能，即极高的规模和复杂度下产生新的、不可预测的特性或行为模式。

广州某教授查阅文献得到虚构信息 DeepSeek虚构某记者的文章 DeepSeek靠忽悠赢了ChatGPT

9DeepSeek安全问题的特点

9

安全问题特点1：威胁难以预测

当人工智能广泛应用于各行各业，当人工智能的“黑箱”“涌现”出难以预测的、错误的和有安全隐患的信

息和行为时，用户通常只能被动接受。

10DeepSeek安全问题的特点

10

安全问题特点2：攻防非对称

在人工智能安全领域，攻防的非对称性十分显著。

从攻击端来看，成本低廉、手段丰富且易于实施。

比如对抗样本攻击，只需对原始数据做些人眼难察的微小扰动，就能让人工智能系统输出错误结果。

一个本该触发停车的STOP标识，简单处理后，会被误识别为speedlimit45

DeepSeek安全问题的特点

安全问题特点2：攻防非对称

DeepSeek遭受连环攻击

防御端难度极大，不仅成本高昂，还需持续投入。防御方得投入大量精力研发更安全的机器学习算法和模型。同时，还得时刻关注攻击者的新动向，及时调整和完善防御策略，以此来应对复杂多变的攻击威胁。

11DDoS攻击

11

2025年1月

DeepSeek官方网站瘫痪长达48小时

数据库越权

2025年1月28日

超过一百万行的日志流被曝光，包含聊天记录、API密钥、后端详细信息等高度敏感信息

XSS漏洞攻击

2025年1月31日

劫持会话、窃取信息，发起网络钓鱼攻击

模型投毒

DeepSeek对大型公开数据集的依赖，未来会进一步加大了注入对抗样本的风险，可能长期产生不良后果，如操控模型行为和输出等

12DeepSeek的法律问题

12

法律问题

AI的发展带来了诸多法律挑战，涉及数据隐私、知识产权、犯罪治理等多个领域。随着AI技术的广泛应用，相关法律问题将更加复杂，需要立法、司法和企业共同努力，完善法律框架，规范AI技术的应用。

2025年3月1日起，腾讯元宝已对此协议内容进行了更新

DeepSeek安全方案框架

安全问题的分类

01 02

学习交流可以加AI肖睿团队微信号（AB

学习交流可以加AI肖睿团队微信号（ABZ2180）

外延安全问题：重点关注在社会、经济、法律等外部环境中产生的影响和问题，包括发展安全、技术滥用（如网络攻击、深度伪造等）。更侧重于Deepseek技术与外部世界交互过程中引发的一系列安全问题和挑战

DeepSeek安全方案框架

内生安全问题

问题类别

具体类型

安全问题描述

模型算法

可解释性差

算法内部逻辑复杂，像“黑盒子”，输出结果难以理解，出现问题时难以找到原因

偏见、歧视

算法设计或训练数据有偏差，可能导致对某些群体不公平，比如性别、种族歧视

鲁棒性弱

模型容易受干扰或攻击，比如环境变化或恶意输入可能导致决策错误

被窃取、篡改

算