感知机简介

什么是感知机？

感知机是一种用于监督学习的二元线性分类器，用于对给定的输入数据进行分类。

可视化感知机

在两个输入特征的情况下，感知机模型会生成一条直线来分隔两类数据。

决策边界

分隔两类数据的边界直线为：

$w_1x_1 + w_2x_2 + b = 0$

其中：

• $x_1$ 和 $x_2$ 是输入特征
• $w_1$ 和 $w_2$ 是权重
• $b$ 是偏置项

预测结果

应用阶跃函数后得到的预测值为：

$\hat{y}$ = $\Bigg\{$ $\begin{matrix} 1 & \text{如果 } w_1x_1 + w_2x_2 + b \geq 0 \\ 0 & \text{否则} \end{matrix}$

在三个输入特征的情况下，感知机模型会使用一个平面来分隔两类数据：

决策边界

分隔数据点的平面方程为：

$w_1x_1 + w_2x_2 + w_3x_3 + b = 0$

其中：

• $x_1$、$x_2$、$x_3$ 是输入特征
• $w_1$、$w_2$、$w_3$ 是权重
• $b$ 是偏置项

预测结果

应用阶跃函数后得到的预测值为：

$\hat{y}$ = $\Bigg\{$ $\begin{matrix} 1 & \text{如果 } w_1x_1 + w_2x_2 + w_3x_3 + b \geq 0 \\ 0 & \text{否则} \end{matrix}$

在n维输入数据的情况下，分隔两类数据的边界是一个(n−1)维的超平面。

决策边界

超平面的方程为：

$w_1x_1 + w_2x_2 + w_3x_3 + \cdots + w_nx_n + b = 0$

其中：

• $x_1$、$x_2$、$x_3$、…、$x_n$ 是输入特征
• $w_1$、$w_2$、$w_3$、…、$w_n$ 是权重
• $b$ 是偏置项

预测结果

应用阶跃函数后得到的预测值为：

$\hat{y}$ = $\Bigg\{$ $\begin{matrix} 1 & \text{如果 } w_1x_1 + w_2x_2 + w_3x_3 + \cdots + w_nx_n + b \geq 0 \\ 0 & \text{否则} \end{matrix}$

📝 注意：计算感知机输出并应用阶跃函数的过程称为“前向传播操作”。由于感知机是一个单层神经网络，因此它本质上是一次单层前向传播。阶跃函数被称为“激活函数”，因为它决定了感知机是否被激活。

核心要点

• 感知机可用于解决二分类问题。

• 分隔两类数据的边界方程为：
  $w_1x_1 + w_2x_2 + w_3x_3 + \cdots + w_nx_n + b = 0$
  这被称为单层前向传播操作。

• 预测结果由以下公式给出：

  $\hat{y}$ = $\Bigg\{$ $\begin{matrix} 1 & \text{如果 } w_1x_1 + w_2x_2 + w_3x_3 + \cdots + w_nx_n + b \geq 0 \\ 0 & \text{否则} \end{matrix}$

• 阶跃函数即为激活函数。