AIGC安全审计框架初探.pdf

AIGC安全审计框架初探

建立人工智能时代的第三道防线

非夕机器人刘歆轶

什么是AIGC

•自然语言处理，知识图谱，专家系统，基于规则系统，遗传算法，符号推理

人工智能

•聊天机器人，图像文字识别OCR，流程机器人RPA

机器学习•决策树，线性回归

•模式识别，图像识别，预测分析，情感分析

•深度混合模型，深度生成模型，深度判别模型，神经网络

深度学习

•复杂数据管理，非结构化数据处理，非线性关系，洞察分析

•生成敌对网络,变分自动编码器

生成式AI

•内容生成AIGC

AIGC发展历程

AIGC成熟度

技术成熟度曲线是Gartner于1995年首次采用的、用于分析及预测

各种新技术在关注度、市场预期和实际应用中的成熟度和发展趋势。

该曲线将一项技术的发展分为了5个阶段：

•技术启动(InnovationTrigger)：该技术开始获得媒体关注、产生舆论，但是

可能没有实际的产品和应用。

•期望膨胀(PeakofInflatedExpectations)：由于媒体过度炒作，导致公众对

该技术的期望被过度放大。此期间可能会出现一些成功案例，但更多的是失败

的尝试。

•失望谷(TroughofDisillusionment)：当实际效果达不到过度炒作的期望时，

工作会开始对技术感到失望。

•启蒙坡道(SlopeofEnlightenment)：一些企业开始了解如何使用该技术，

并开始看到其潜在的效益。

•生产高地(PlateauofProductivity)：该技术已经成熟且被广泛的理解和接受，

被大众所使用。

AIGC能做什么

Jasper;copy.Ai;ChatGPT;

文本生成

Bard;GTP4

EditGAN;Deepfake;

C图像生成

GDALL-E;StableDiffusion

I

DeepMusic;WaveNet;

A音频生成

DeepVoice;MusicAutoBot

Deepfake;VideoGPT;

视频生成

GliaCloud;lmageVideo

AIGC风险框架

AIGC风险

平台框架风险