Logo
Section 1 / 15

剧透警告

了解本章的学习目标。

导入

剧透警告

了解本章的学习目标。

本章内容概要

在本章中,我们将:

  • 定义一个简单线性回归模型。

  • 逐步讲解梯度下降的每个步骤:参数初始化、前向传播、计算误差与损失、计算梯度以及参数更新。

...
梯度下降步骤
  • 从数学公式、代码实现和几何角度三个层面理解梯度。

  • 理解批量梯度下降、小批量梯度下降和随机梯度下降之间的区别。

...
梯度下降类型
  • 可视化不同学习率对损失函数的影响。

  • 理解特征标准化/归一化的重要性。

  • 还有更多精彩内容!

本章不涉及任何实际的 PyTorch 代码,而是使用 Numpy,因为我们关注的是理解梯度下降的工作原理。PyTorch 将在下一章中引入。

导入依赖

为了保持结构清晰,本章所需的所有库都会在开头统一导入。本章需要以下模块:

1import numpy as np 2from sklearn.linear_model import LinearRegression 3from sklearn.preprocessing import StandardScaler

Jupyter 笔记本

本章完整的代码将通过 Jupyter 笔记本提供给你。你可以运行全部代码并进行实验。

简介

梯度下降