正则化regularization-人工智能.DOC

A A/B 测试 (A/B testing) 一种统计方法，用于将两种或多种技术进行比较，通常是将当前采用的技术与新技术进行比较。A/B 测试不仅旨在确定哪种技术的效果更好，而且还有助于了解相应差异是否具有显著的统计意义。A/B 测试通常是采用一种衡量方式对两种技术进行比较，但也适用于任意有限数量的技术和衡量方式。 准确率 (accuracy) HYPERLINK /machine-learning/crash-course/glossary \l classification_model 分类模型的正确预测所占的比例。在 HYPERLINK /machine-learning/crash-course/glossary \l multi-class 多类别分类中，准确率的定义如下： 在 HYPERLINK /machine-learning/crash-course/glossary \l binary_classification 二元分类中，准确率的定义如下： 请参阅 HYPERLINK /machine-learning/crash-course/glossary \l TP 真正例和 HYPERLINK /machine-learning/crash-course/glossary \l TN 真负例。 激活函数 (activation function) 一种函数（例如? HYPERLINK /machine-learning/crash-course/glossary \l ReLU ReLU?或? HYPERLINK /machine-learning/crash-course/glossary \l sigmoid_function S 型函数），用于对上一层的所有输入求加权和，然后生成一个输出值（通常为非线性值），并将其传递给下一层。 AdaGrad 一种先进的梯度下降法，用于重新调整每个参数的梯度，以便有效地为每个参数指定独立的 HYPERLINK /machine-learning/crash-course/glossary \l learning_rate 学习速率。如需查看完整的解释，请参阅 HYPERLINK /papers/volume12/duchi11a/duchi11a.pdf 这篇论文。 ROC 曲线下面积 (AUC, Area under the ROC Curve) 一种会考虑所有可能分类阈值的评估指标。 HYPERLINK /machine-learning/crash-course/glossary \l ROC ROC 曲线下面积是，对于随机选择的正类别样本确实为正类别，以及随机选择的负类别样本为正类别，分类器更确信前者的概率。 B 反向传播算法 (backpropagation) 在 HYPERLINK /machine-learning/crash-course/glossary \l neural_network 神经网络上执行 HYPERLINK /machine-learning/crash-course/glossary \l gradient_descent 梯度下降法的主要算法。该算法会先按前向传播方式计算（并缓存）每个节点的输出值，然后再按反向传播遍历图的方式计算损失函数值相对于每个参数的 HYPERLINK /wiki/Partial_derivative 偏导数。 基准 (baseline) 一种简单的 HYPERLINK /machine-learning/crash-course/glossary \l model 模型或启发法，用作比较模型效果时的参考点。基准有助于模型开发者针对特定问题量化最低预期效果。 批次 (batch) HYPERLINK /machine-learning/crash-course/glossary \l model_training 模型训练的一次 HYPERLINK /machine-learning/crash-course/glossary \l iteration 迭代（即一次 HYPERLINK /machine-learning/crash-course/glossary \l gradient 梯度更新）中使用的样本集。 另请参阅 HYPERLINK /machine-learning/crash-course/glossary \l batch_size 批次规模。 批次规模 (batch size) 一个 HYPERLINK /machine-learning/crash-course/glossary \l batch 批次中的样本数。例如， HYPERLINK /machine-learning