机器学习及其类型

机器学习

亚瑟·塞缪尔（Arthur Samuel）是美国计算机科学家，也是游戏和人工智能领域的先驱。人工智能是指机器所表现出的智能，与自然智能不同。机器学习是人工智能的一个重要分支。亚瑟·塞缪尔对机器学习给出了如下定义：

“一个使计算机无需显式编程即可具备学习能力的研究领域。”

机器学习及其子领域深度学习，在数据科学中被广泛应用于预测性分析。在数据经过充分清洗处理并提取出关键洞察之后，我们可以利用机器学习进行预测建模，获得以下优势：

• 可以计算未来特定结果发生的概率，并据此采取相应措施。
• 能够自动化地为行业中大量项目打标签，而这些任务原本需要投入大量人力才能完成。
• 可构建实时系统，在重大事故发生前发出预警，预测股票价格，解决各类预测问题等，实现自动化处理。
• 可优化众多工业流程，节省时间和成本。

根据手头数据集的不同，还可以选择不同类型的机器学习方法来构建模型。

机器学习的类型

机器学习主要分为以下几类：

监督学习

在监督学习中，我们拥有预先标注好的数据集。机器学习模型或算法从该数据集中学习潜在规律，并能在新的未标注数据上，结合特定超参数做出良好泛化。监督学习问题主要包括回归和分类问题。

回归

回归问题涉及预测连续值输出，这一概念源自推断统计学。典型的回归问题示例包括：

• 预测房价
• 预测评论的毒性程度
• 预测股票价格
• 预测公司员工数量
• 预测患者的FVC（用力肺活量）测量值

分类

分类问题涉及预测类别型输出。输出可以来自两个类别（二分类）、多个类别（多分类），也可以为单个样本预测多个类别（多标签分类）。常见的分类示例如下：

• 判断一条推文的情感倾向（正面或负面）
• 判断X光片是否包含肺炎迹象
• 判断肿瘤是良性还是恶性
• 预测未来几天的天气（炎热或寒冷）

• 维度、特征、列和属性是同一概念，指结构化表格中的某一列。
• 自变量列、输入列和特征是指用于预测的列。
• 因变量列和输出列是指需要被预测的目标列。
• 线性模型适用于线性可分的问题，其模型形式为输入与输出的线性组合，如线性回归或逻辑回归。非线性模型则适用于线性不可分的问题，例如神经网络或带核函数的支持向量机。通常建议先尝试线性模型，若性能不佳再转向非线性模型。

无监督学习

在无监督学习中，数据集没有预定义的标签，即为未标注数据。无监督学习的目标是在没有任何监督的情况下，发现数据集中的内在模式。常见的无监督学习任务包括聚类和关联规则挖掘。

聚类

聚类是指将相似的数据项划分到同一组的过程。同一组或簇内的数据项具有相同的标签或ID。典型聚类应用包括：

• 根据社交媒体使用行为对用户进行分组
• 对商场顾客进行客户细分
• 基于内容和其他属性对图像和视频进行分组
• 将搜索引擎返回的新闻文章或搜索结果按相似内容和特性进行聚类

关联规则挖掘

关联规则挖掘属于无监督学习范畴，用于发现数据中频繁共同出现或存在相关性的特征或维度。

• 购物篮分析：用于发现零售商品之间的关联规则。
• 医学诊断：帮助确定症状与疾病之间的关联关系。
• 生物信息学：有助于理解蛋白质中不同氨基酸共现的关系。

著名算法

以下算法常用于关联规则挖掘，它们用于发现频繁项集，进而生成关联规则：

• Apriori算法
• FP-Growth算法

半监督学习

获取大量标注数据往往成本高昂且耗时。大多数情况下，我们仅有少量标注数据和大量未标注数据。半监督学习的目标与监督学习相同，但此时未标注样本也能帮助模型理解数据集的内在结构。

伪标签技术（Pseudo-Labelling） 是半监督学习中的一种常用方法。

强化学习

---

强化学习（RL）是机器学习的一个分支，研究软件智能体如何在环境中采取行动，以最大化累积奖励的概念。

---

在强化学习中，机器被置于某个环境中，能够感知环境的状态，状态通常以特征向量的形式表示。机器执行动作，这些动作会带来奖励，并可能导致其进入新的状态。强化学习算法的目标是学习一种最优策略。

强化学习的应用

• 工业中有机器人用于自动化建造流程。
• 能够发现长期来看更有价值的奖励机制。

强化学习的学习模型

• 马尔可夫决策过程（Markov Decision Process）
• Q学习（Q-Learning）