人工智能安全：原理与实践 习题及答案 李剑 -第1--7章.pdf

《人工智能安全：原理与实践》

习题答案

教材出版社：机械工业出版社

主编单位：北京邮电大学

主编姓名：

联系方式：

电子邮件：

制作日期：年月日

目录

习题答案3

第1章人工智能安全概述3

第2章生成对抗网络的安3

第3章卷积神经网络的安全应用4

第4章对抗样本生成算法的安全应用6

第5章随机森林算法的安全应用7

第6章贝叶斯和SVM分类算法的安全应用7

第7章长短期记忆网络的安全应用8

第8章梯度下降算法的安全应用10

第9章深度伪造原理与安全应用11

第10章成员推理攻击原理与实践12

第11章属性推理攻击实原理与实践13

第12章模型公平性检测与提升原理与实践13

第13章水印去除原理与实践14

第14章语音合成原理与实践16

第15章视频分析原理与实践17

第16章源代码漏洞检测原理与实践18

习题答案

（答案仅供参考）

第1章人工智能安全概述

1.什么是人工智能安全？

参考答案：人工智能安全是指通过釆取必要措施，防范对人工智能系统的攻

击、侵入、干扰、破坏和非法使用以及意外事故，使人工智能系统处于稳定可靠

运行的状态，以及遵循人工智能以人为本、权责一致等安全原则，保障人工智能

算法模型、数据、系统和产品应用的完整性、保密性、可用性、鲁棒性、透明性、

公平性和隐私的能力。

2.什么是人工智能的原生安全？

参考答案：人工智能系统内在的安全或本身的安全，包括人工智能系统中机

器学习框架的安全、数据安全和算法模型的安全等。

3.什么是人工智能的衍生安全？

参考答案：人工智能系统应用到实际生活当中而引起的安全问题。

第2章生成对抗网络的安

1.什么是生成对抗网络？

参考答案：生成对抗网络是一种用于生成模型的机器学习框架。

2.生成对抗网络主要由哪些部分组成？

参考答案：它由两个主要组成部分组成：生成器和判别器，生成器试图生成

与真实数据相似的新样本，而判别器则试图区分生成器生成的样本和真实数据样

本。

3.分别说明生成器和判别器在生成对抗网络中的作用。

参考答案：生成对抗网络的基本原理是通过竞争的方式训练生成器G和判别

器D，以不断提升生成器生成样本的质量。生成器接收一个随机噪声向量作为输

入，并尝试生成看起来像真实数据的样本。判别器则接收生成器生成的样本和真

实数据样本，并尝试区分它们。生成器和判别器通过反复迭代的对抗过程进行训

练，其中生成器试图欺骗判别器，而判别器试图准确识别生成器生成的样本。

4.举例说明生成对抗网络都有哪些应用。

参考答案：生成对抗网络的应用非常广泛。以下是一些典型的应用场景：图

像生成、图像修复、视频生成、自然语言处理、医学影像、图像的风格转换、数

据增强等。

5.什么是对抗性攻击？它有哪些种类？

参考答案：对抗性攻击就是通过对抗性例子来攻击神经网络。根据对抗性攻

击的特点和攻击效果，对抗性攻击可分为黑盒攻击和白盒攻击、单步攻击和迭代

攻击、目标攻击和非目标攻击、特定扰动和通用扰动等。

第3章卷积神经网络的安全应用

1.什么是卷积神经网络？

参考答案：卷积神经网络是一种特殊的神经网络。它在处理图像数据时引用

了卷机操作。卷机操作是一种数学运算，可以将输入图像与卷积核进行卷积，从

而提取图像的局部特征。卷积神经网络通过堆叠多个卷积层和池化层，逐步提取

图像更为高级的特征，最终可以实现对图像的分类、识别等任务。

2.什么是投毒攻击？

参考答案：投毒攻击是一种对机器学习模型的安全攻击方法，特别是在模型

训练阶段进行攻击。在这种攻击方式中，攻击者通过故意引入、修改或注入恶意

数据到训练数据集中，试图影响模型的学习过程，使得模型在测试或实际应用时

表现出预定的错误行为或降低模型的整体性能。

3.说明投毒攻击会带来哪些危害？

参考答案：这种攻击