逻辑回归的实现
本节课将介绍逻辑回归的基本概念及其实施步骤。
逻辑回归快速概述
机器学习通常涉及预测定量结果或定性类别。前者通常被称为回归问题。在线性回归中，这意味着基于连续变量的输入来预测数值型结果。
当预测的是定性结果（类别）时，该任务属于分类问题。分类问题的示例包括预测用户会购买哪些产品，或目标用户是否会点击在线广告。
然而，并非所有算法都能清晰地归入这一简单二分法，逻辑回归就是一个典型例子。逻辑回归属于回归家族，因为它通过变量之间的定量关系来进行预测。但与线性回归不同的是，它既可以接受连续变量也可以接受离散变量作为输入，且其输出是定性的。此外，它预测的是离散类别，例如“是/否”或“客户/非客户”。
在实际应用中，逻辑回归算法会分析变量之间的关系。它使用Sigmoid函数将数值结果转换为0到1.0之间的概率表达，从而为离散结果分配概率。
值0表示事件不可能发生，值1表示事件必然发生。对于二分类预测，可以设定0.5为阈值：大于0.5的被划分为类别A，小于0.5的被划分为类别B。
通过Sigmoid函数将数据点分配到某一类别后，使用超平面作为决策边界尽可能地区分两个类别。之后便可利用该决策边界预测新数据点的类别。
逻辑回归方程
其中，y 是预期输出， 表示偏置项或截距， 表示单个输入变量（x）。输入数据中的每一列都对应一个待从训练数据中学习的系数 b。
方程中的这些系数（即 beta 值或 b 值）构成了模型本身，需要保存在内存或文件中。
逻辑回归可以用于多类分类，但通常更常用于二分类任务（预测两个离散类别）。其他技术，如朴素贝叶斯分类器和支持向量机（SVM），在处理多个离散结果的分类时通常更为有效。
逻辑回归的实现步骤如下：
- 1- 导入库
- 2- 导入数据集
- 3- 删除无关变量
- 4- 转换非数值型数据
- 5- 处理缺失值（删除或填充）
- 6- 设置特征变量X和标签变量y
- 7- 选择并设置算法
- 8- 进行预测
- 9- 模型评估
练习
在接下来的代码练习中，你将使用逻辑回归预测Kickstarter众筹项目的结果。具体而言，你将判断该项目是否能达到其融资目标，并以二元形式输出“0”（否）或“1”（是）。Kickstarter是一个面向创意项目和新产品推出的在线众筹平台。
在后续课程中，你将详细学习逻辑回归的具体实现步骤。