人工智能安全：原理与实践 课件 第16章 代码漏洞检测原理与实践 .pptx

第16章代码漏洞检测原理与实践16.1代码漏洞检测原理简介

本章介绍代码漏洞检测是确保软件安全的重要步骤之一。通过Python编程语言实现一个基于图神经网络（GraphNeuralNetwork，GNN）的代码漏洞检测系统，在小样本数据集场景中对软件代码中的潜在漏洞进行检测与分析。通过本实践内容，掌握利用代码属性图（CodePropertyGraph，CPG）提取代码特征，并使用图神经网络对代码进行建模和漏洞检测的基本方法与流程。。

1.图神经网络图神经网络GNN是一类专门用于处理图结构数据的神经网络模型。与传统的神经网络相比，GNN能够更有效地捕捉图结构数据中的节点、边以及它们之间的关系。这种能力使得GNN在许多需要处理复杂关系的数据场景中有着广泛的应用，如社交网络分析、化学分子结构预测、推荐系统等。在代码分析领域，代码可以被看作一种图结构，因为代码中的变量、函数、控制流、数据流等可以自然地表示为图的节点和边。

1.图神经网络本章将利用GNN在CPG上进行信息传递与聚合，从而实现对代码潜在漏洞的检测。

2.代码特征提取工具Joern为了利用GNN对代码进行建模，首先需要将代码转换成图结构。Joern是一款用于代码分析的开源工具，能够将C/C++、Java等语言的代码转换成CPG。CPG包含了代码中的多种信息，如语法结构、变量依赖、控制流等，这些信息可以帮助模型更好地理解代码的逻辑与结构。

3.小样本学习小样本学习是一种在训练样本较少的情况下，依然能够有效学习和泛化的机器学习方法。在代码漏洞检测的任务中，获取大量带标注的漏洞样本往往十分困难，因此，如何在小样本场景下训练出具有良好泛化能力的模型，成为了一个重要的挑战。

4.迁移学习迁移学习是一种将从源任务（SourceTask）中学习到的知识迁移到目标任务（TargetTask）的方法。对于图神经网络来说，可以在一个大型代码数据集上预训练模型，然后将其应用于小样本的漏洞检测任务中，从而实现更好的检测效果。

小结本小节主要介绍进行代码漏洞检测时所使用的方法，包括图神经网络、代码特征提取工具Joern、小样本学习、迁移学习等。

祝同学们学习进步！致谢

李剑博士，教授，博士生导师网络空间安全学院lijian@bupt.edu.cnJanuary23,2025第16章代码漏洞检测原理与实践实践16-1基于图神经网络的代码漏洞检测

本章介绍本实践内容主要讲述如何在Ubuntu操作系统虚拟机上通过Python编程语言实现一个基于图神经网络的代码漏洞检测系统。

1.实践目的学习代码的图表征方法，尝试使用joern工具提取代码特征。学习图神经网络模型，尝试使用GNN模型对代码进行建模和漏洞检测。了解小样本学习，尝试在小样本场景下提高模型的泛化能力。了解迁移学习的原理与应用。

2.实践环境环境

3.实践过程(1)了解代码的图表征方法，尝试使用joern工具提取代码特征(2)了解图神经网络模型，尝试使用GNN模型对代码进行建模和检测(3)了解迁移学习，尝试在小样本场景下提高模型的泛化能力(4)开始进行代码实现部分。(5)数据预处理(6)数据嵌入(7)模型训练评估(8)主函数实现命令工具（由于过程较复杂，教材里有详细解释！）

4.实践结果模型对代码样本进行漏洞检测。存在漏洞的概率0.5，标记为存在漏洞；概率0.5，标记为不存在漏洞。

5.参考代码本课程所有实践内容的Python语言参考源代码见本教材的网盘。

小结本实践主要介绍基于图神经网络的代码漏洞检测。

祝同学们学习进步！致谢