为什么选择机器学习

回归模型的问题

在前一章中，我们学习了如何使用线性回归和逻辑回归模型从数据中进行预测。但回归框架存在一些问题。我们将逐一分析这些问题。

非线性关系

线性回归的设计初衷是探索因变量与自变量之间的线性关系。它假设变量之间存在直线关系，并试图找到一条最佳拟合直线。然而，现实中并非所有变量都遵循线性关系。例如，年龄与收入之间的关系就不是线性的：在早期阶段，收入呈指数增长，而到了后期则趋于近似线性增长。

线性回归参数趋向于预测变量的均值

线性回归会寻找因变量的均值，因为相对于其他数值，数据点到均值的误差整体较小。因此，在我们的小费示例中，模型参数接近小费百分比的均值。然而，关注数据的极端值同样重要。

对异常值敏感

线性回归对异常值较为敏感，因为它依赖于数据的均值。当存在异常值时，最佳拟合直线可能会发生偏移，以试图适应这些异常点。

独立性假设

线性回归假设自变量之间不存在显著相关性。但实际情况往往并非如此。当自变量之间存在相关性时，会影响线性回归模型的性能。这一问题在统计学中被称为多重共线性。尽管有方法可以应对，但当自变量之间存在较强关联时，线性回归的表现通常不理想。

由于上述问题在实际数据中普遍存在，线性回归的性能往往不尽如人意。它最适合用于因变量与自变量之间存在线性关系且数据中无异常值的情况。因此，我们需要一种更优的预测模型框架，这正是机器学习发挥作用的地方。

什么是机器学习？

机器学习是计算机科学的一个分支，专注于开发能够通过模式识别和推理完成特定任务的算法与系统，而不是依赖显式编程指令。机器学习的一个典型应用场景是构建预测模型。大多数机器学习任务可归为以下两类：

• 监督学习
• 无监督学习

监督学习

在监督学习中，我们使用带有标签的数据来构建预测模型。当数据中包含目标变量时，该目标变量的取值称为标签。此前我们构建线性回归模型时，就已经具备了标签信息。常见的监督学习算法包括：

• 决策树
• 神经网络
• 随机森林
• 支持向量机（SVM）

我们将在本章后续内容中详细介绍其中一些算法。

无监督学习

无监督学习是指利用未标记的数据，让模型自动发现数据之间的关系并识别潜在的模式。世界上大多数数据都是未标记的，因此无监督学习在机器学习中具有重要价值。最常见的无监督学习算法是聚类算法。我们将在本章后续内容中探讨这些算法。

机器学习、人工智能与数据科学的区别

人们常常将“机器学习”、“人工智能”和“数据科学”这三个术语混用。实际上，机器学习是人工智能的一个子集，同时与数据科学高度重叠。人工智能研究的是使机器表现出类似人类智能的各种技术。机器学习是实现人工智能的核心手段之一，但人工智能也广泛采用非机器学习的技术。

另一方面，数据科学侧重于从数据集中提取洞察。传统上，数据科学家主要依靠统计方法（如回归分析）来获取见解。然而，随着机器学习的发展，其已深度融入数据科学领域。

在下一课中，我们将介绍机器学习的完整流程。