原创力文档- 2
- 0
- 约1.28千字
- 约 30页
- 2026-07-14 发布于北京
- 举报
面向人工智能系统的体系化
安全检测与风险评估方法研究
安全研究所钮艳;
一、研究背景与总体思路
二、主要研究内容
三、主要研究成果;;
亚洲
中国：
《新一代AI发展规划》
《政府工作报告》“人工智能+”日本：
《人工智能战略》
韩国：
《人工智能国家战略》
《人工智能发展与信任基础构建基本法》新加坡：
《国家人工智能战略》;
研究体系化安全检测与风险评估方法，
实现从检测到评估、再到修复量化决策的全链条能力;
目录
一、研究背景与总体思路
二、主要研究内容
三、主要研究成果;
多层级安全检测多环节安全风险评估跨层级安全量化;
形成可归类、可治理
的体系框架
支撑风险排查、能力
建设和治理闭环
硬件网络通信基础架构数据模型算法智能交互应用;
4.推理链攻击
利用think标签引导模型
自行思考限制逻辑;
n提示词注入居人工智能安全风险首位
n技术门槛低、危害性大：攻击者仅需输入精心设计的自然语言即可绕过安全防护，导致越权访问、敏感信息泄露、恶意内容生成等严重后果。
n产业界高度重视：OpenAI、谷歌、An
文档评论（0）