人工智能与网络空间安全.docx

☆

人工智能与网络空间安全

汇报人

汇报人：许天翔

xtxxueyan(UID:15859)

师从玄道

主要关注：网络安全结合人工智能、数据挖掘（如舆情预警、恶意流量识别、恶意代码识别）、对抗样本攻击、区块链智能合约等方向。

目录

CONTENTS

Q·P

AI模型安全与隐私针对AI

AI模型安全与隐

私

针对AI赋能安全

的攻击

AI时代网络空间

安全新挑战

应用

AI基础知识

人工智能、机器学习与深度学习之间的关系

AI基础知识

AI基础知识

AI基础知识

机器学习的两大类任务：

AI基础知识

AI基础知识

AI基础知识

AI基础知识

机器学习算法成为热门学科，涵盖多种数据挖掘、智能预测算法

图机器学习算法

AI基础知识

图一般有监督机器学习的工作流程框架

☆

AI基础知识

假设你是一名房地产经纪人，你的生意蒸蒸日上，因此你雇了一批新员工来帮忙。但是问题来了——虽然你可以一眼估算出房子的价格，但新员工却不像你这样经验丰富，他们不知道如何给房子估价，那如何帮助他们来房子估价呢？

这就是我们的「训练数据」

AI基础知识

使用这些训练数据，我们要来编写一个能够估算该地区其他房屋价值的程序我们希望使用这些训练数据的规律来预测其他房屋的价格

PARTONE

AI在网络安全的应用

AI的广泛应用

2010年~至今，深度学习算法迅速发展，在各行各业得到广泛应用

AI的广泛应用

由于ChatGPT包含了更多主题的数据，能够处理更多小众主题,ChatGPT可以覆盖回答问题、撰写文章、文本摘要、语言翻译和生成计算机代码等任务

AI与恶意应用（Malware）识别

将待检测的PE二进制格式可执行代码在虚拟机或沙箱中运行，监控并记录所产生的系统API调用序列，然后，对API序列进行特征工程转化为特征向量，并输入到机器学习模型进行检测分类

图基于机器学习的PE二进制恶意代码分析检测方案

AI与网络入侵检测系统

入侵检测系统IntrusionDetectionSystem（IDS）是一种安全工具，旨在检测计算机系统、网络或应用程序中的恶意活动和安全漏洞

网络入侵检测系统NetworkIntrusionDetectionSystem(NIDS)基于AI的NIDS有两个主要组件：特征提取器和异常检测器

AI与Webshell恶意流量识别

利用人工智能技术提高Webshell样本分析的效率，实现对样本通信流量的自动化采集与特征提取，构建精准的检测模型并支持自动化规则抽取

图Webshell智能检测与规则自动化提取技术方案示意图

AI与域名检测

针对域名生成算法(DGA)生成的域名的多样性、多语言性，提出一套基于静态特征的组合算法，其中N-gram模型针对随机字符型DGA域名，LSTM模型针对单词组合型DGA域名，拼音特征和拼音加强数据集是针对中文语境下的加强，最后将多模型组合起来综合评估

图兼容拼音域名的多层自适应DGA域名检测方法

PARTTWO

AI模型安全与隐私

AI模型安全与隐私

亚马逊AI招聘算法性别歧视多款AI医疗软件存在偏见谷歌AI将黑人识别成大猩猩

AI模型安全与隐私

对抗

对抗攻击

AI模型安全与隐私

对抗

对抗攻击

AI模型安全与隐私

对抗

对抗攻击

AI模型安全与隐私

模型窃取攻击

AI模型安全与隐私

MachineLearningasaService

AI模型安全与隐私

后门攻击

AI模型安全与隐私

横向联邦学习中的模型窃取攻击/破坏攻击

AI模型安全与隐私

纵向联邦学习中的标签推理攻击

PARTTHREE

针对AI赋能安全的攻击

针对NIDS的对抗攻击

?特征层面的对抗攻击Feature-LevelAttacks(FLA)

?流量层面的对抗攻击Traffic-LevelAttacks(PLA)

针对NIDS的对抗攻击

特征层面的对抗攻击

针对NIDS的对抗攻击

特征层面的对抗攻击

针对NIDS的对抗攻击

流量层面的对抗攻击

PracticalTraffic-spaceAdversarialAttacksonLearning-basedNIDSs.

针对NIDS的对抗攻击

流量层面的对抗攻击

针对恶意应用分类模型的对抗攻击

SHADOWDROID:PracticalBlack-boxAttackagainstML-