正规方程与梯度下降对比分析.pdfVIP

正规方程

：8:00到8:44‑示例中给出的设计矩阵X（幻灯片右下角）应具有带有下标1和从

注意[

1变化到m的上标的元素x，因为所有m个训练集中只有2个特征和。12:56‑X

矩阵的大小是m×(n+1)而不是n×n。]

梯度下降了一种最小化J的方法。现在我们来讨论另法，这次显式地进

行最小化，而不使用迭代算法。在“正规方程”方法中，通过显式地对θj求导并将

其设为零来最小化J。这使我们能够在不进行迭代的情况下找到最优的theta。正规方程

如下所示：

−1

(XXy

使用正规方程时，无需进行特征缩放。

以下是梯度下降和正规方程的比较：

梯度下降正规方程

需要选择alpha