简介：偏差-方差权衡

章节概述

在本章中，我们将介绍逻辑回归的其余重要内容，包括调用 fit 方法训练模型时发生的过程，以及使用该建模技术时需要注意的统计假设。你将学习如何在逻辑回归中使用 L1 和 L2 正则化来防止过拟合，并掌握通过交叉验证的方法选择合适的正则化强度。阅读本节后，你将能够在实际工作中应用逻辑回归，并在模型拟合过程中使用正则化，利用偏差-方差权衡来提升模型在未见数据上的表现。

理解梯度下降

我们还将补充上一章中尚未讲解的逻辑回归细节。除了能够使用 scikit-learn 来拟合逻辑回归模型外，你还将深入了解梯度下降过程，这一过程与 scikit-learn 内部用于实现模型拟合（对用户不可见）的机制类似。最后，我们将通过熟悉逻辑回归方法所依赖的正式统计假设，完成对该模型的全面讨论。

偏差-方差权衡

我们通过探讨如何扩展逻辑回归模型以应对过拟合问题，来开启对机器学习基础概念——过拟合、欠拟合以及偏差-方差权衡的深入理解。在回顾用于缓解过拟合的正则化方法的数学细节之后，你将学习一种调节正则化超参数的有效实践：交叉验证。结合正则化方法和一些简单的特征工程技巧，你将理解如何改进过拟合和欠拟合的模型。

尽管本章聚焦于逻辑回归，但过拟合、欠拟合、正则化以及偏差-方差权衡等概念几乎适用于机器学习中的所有监督学习建模技术。