人工智能安全标准要求及安全技术实践.pdf

中国石油石化行业人工智能大模型技术交流大会

人工智能安全标准要求及安全技术实践

大语言模型中的安全隐患和监管要求

大语言模型安全技术实践

中国石油石化行业人工智能大模型技术交流大会

PART01

大语言模型中的安全隐患和监管要求

中国石油石化行业人工智能大模型技术交流大会

人工智能的全新特性带来前所未有的安全挑战

人工智能内生安全风险

模型算法安全风险

Ø可解释性差的风险

Ø偏见、歧视风险

Ø鲁棒性弱风险

Ø被窃取、篡改的风险

Ø输出不可靠风险

Ø对抗攻击风险人工智能在网络安全中存在的突出风险

数据安全风险

Ø人工智能可为网络渗透提供新型载体和手段；

Ø违规收集使用数据风险

Ø训练数据含不当内容，被“投毒”风险Ø人工智能可大幅提升网络攻击的规模、频次和效能；

Ø训练数据标注不规范风险

Ø数据泄露风险Ø人工智能进一步加大了维护数据安全和保护个人信息的难度；

系统安全风险Ø人工智能可为发达国家实施技术封锁、互联网巨头市场垄断提供

人工智能应用安全风险

Ø缺陷、后门被攻击利用风险机会。

Ø算力安全风险

网络域安全风险

Ø供应链安全风险

Ø信息内容安全风险

Ø混淆事实、误导用户、绕过鉴权的风险会话人工智能

Ø不当使用引发信息泄露风险

Ø滥用于网络攻击的风险

Ø模型复用的缺陷传导风险

现实域安全风险

Ø诱发传统经济社会安全风险

Ø用于违法犯罪活动的风险

Ø两用物项和技术滥用风险中国石油石化行业人工智能大模型技术交流大会

认知域安全风险

“”

技术安全是大模型安全问题的底座

技术安全是大模型技术本身引发的安全问题，包括网络、数据、算法框架的安全问题。

三星被曝因ChatGPT泄露芯片机ChatGPT遭受DDoS攻击TensorFlow漏洞被频繁

密停机爆出

谷歌Tensorflow含CVE漏洞157个，

包括严重漏洞6个、高危漏洞27个、

2023年11月8日，ChatGPT遭受分

2023年4月，三星公司在引入中危漏洞42个。漏洞数全球排名第一

布式拒绝服务（DDoS）攻击，导致

ChatGPT的近20天时间内，发生三起Ø360累计发现并帮