导入
剧透警告
了解本章的学习目标。
本章内容概要
在本章中,我们将:
-
定义一个简单线性回归模型。
-
逐步讲解梯度下降的每个步骤:参数初始化、前向传播、计算误差与损失、计算梯度以及参数更新。
...
梯度下降步骤
-
从数学公式、代码实现和几何角度三个层面理解梯度。
-
理解批量梯度下降、小批量梯度下降和随机梯度下降之间的区别。
...
梯度下降类型
-
可视化不同学习率对损失函数的影响。
-
理解特征标准化/归一化的重要性。
-
还有更多精彩内容!
本章不涉及任何实际的 PyTorch 代码,而是使用 Numpy,因为我们关注的是理解梯度下降的工作原理。PyTorch 将在下一章中引入。
导入依赖
为了保持结构清晰,本章所需的所有库都会在开头统一导入。本章需要以下模块:
1import numpy as np 2from sklearn.linear_model import LinearRegression 3from sklearn.preprocessing import StandardScaler
Jupyter 笔记本
本章完整的代码将通过 Jupyter 笔记本提供给你。你可以运行全部代码并进行实验。