第二章线性代数.PDFVIP

第二章 线性代数 线性代数作为数学的一个分支，广泛应用于科学和工程中。然而，因为线性代数 主要是面向连续数学，而非离散数学，所以很多计算机科学家很少接触它。掌握好线 性代数对于理解和从事机器学习算法相关工作是很有必要的，尤其对于深度学习算 法而言。因此，在开始介绍深度学习之前，我们集中探讨一些必备的线性代数知识。 如果你已经很熟悉线性代数，那么可以轻松地跳过本章。如果你已经了解这些概 念，但是需要一份索引表来回顾一些重要公式，那么我们推荐 。如果你没有接触过线性代数，那么本章将告诉你本 书所需的线性代数知识，不过我们仍然非常建议你参考其他专门讲解线性代数的文 献，例如 。最后，本章略去了很多重要但是对于理解深度学习非必需 的线性代数知识。 标量、向量、矩阵和张量 学习线性代数，会涉及以下几类数学概念： • 标量 （ ）：一个标量就是一个单独的数，它不同于线性代数中研究的其他 大部分对象（通常是多个数的数组）。我们用斜体表示标量。标量通常被赋予小 写的变量名称。当我们介绍标量时，会明确它们是哪种类型的数。比如，在定 义实数标量时，我们可能会说 令 s 表示一条线的斜率 ；在定义自然数标 量时，我们可能会说 令 n 表示元素的数目。 • 向量（ ）：一个向量是一列数。这些数是有序排列的。通过次序中的索 引，我们可以确定每个单独的数。通常我们赋予向量粗体的小写变量名称，比 如 x。向量中的元素可以通过带脚标的斜体表示。向量x 的第一个元素是x ， 第二章 线性代数 第二个元素是 x ，等等。我们也会注明存储在向量中的元素是什么类型的。如 果每个元素都属于 ，并且该向量有n 个元素，那么该向量属于实数集 的 n 次笛卡尔乘积构成的集合，记为 。当需要明确表示向量中的元素时，我们 会将元素排列成一个方括号包围的纵列： x x x x 我们可以把向量看作空间中的点，每个元素是不同坐标轴上的坐标。 有时我们需要索引向量中的一些元素。在这种情况下，我们定义一个包含这些 元素索引的集合，然后将该集合写在脚标处。比如，指定x ，x 和x ，我们定 义集合 ，然后写作x 。我们用符号－表示集合的补集中的索引。 比如x 表示 x 中除x 外的所有元素，x 表示 x 中除x ，x ，x 外所有元