导入
简介:逻辑回归与特征提取
本章将介绍以下主题:特征评估,以及作为线性模型的逻辑回归,用于评估特征在建模中的有效性。
概述
本章将教你如何快速高效地评估特征,从而判断哪些特征可能对机器学习模型最为重要。掌握这一技能后,我们将深入探讨逻辑回归的内部机制,帮助你进一步精通这一基础性技术。学完本章后,你将能够绘制多个特征与响应变量之间的相关性图,并理解逻辑回归作为线性模型的本质。
在上一章中,我们使用 scikit-learn 构建了几个机器学习模型示例,以熟悉其基本用法。然而,我们所使用的特征 EDUCATION 和 LIMIT_BAL 并未经过系统性的选择。
评估特征重要性
在本章中,我们将开始学习用于评估特征有效性的方法。这将使你能够快速浏览所有候选特征,初步判断哪些特征最具影响力。对于最有潜力的特征,我们还将学习如何创建可视化摘要,作为有效的沟通工具。
探讨逻辑回归
接下来,我们将深入分析逻辑回归。我们将了解为何尽管逻辑回归的表达式中包含非线性函数,它仍被视为一种线性模型。我们会学习什么是决策边界,并认识到由于其线性特性,逻辑回归的决策边界可能导致对响应变量的分类不够准确。在此过程中,我们还将通过使用列表推导式和编写函数,进一步提升 Python 编程能力。