接下来该往哪里走？

回顾

在这门确实漫长且具有挑战性的课程中，你已经学习了截至2021年深度学习所需掌握的全部核心知识。

首先，我们从神经网络的基本原理讲起，始于线性分类器，然后进一步探讨了作为线性模型自然延伸的前馈网络。

我们还讲解了如何使用反向传播和梯度下降来训练深度网络，以及最常用的优化算法和激活函数。

卷积神经网络（CNN）是2012年掀起整个深度学习热潮的架构。我们对其进行了相当详细的讨论，以确保你能充分理解。在计算机视觉应用中，它至今仍然至关重要。

接下来是循环神经网络（RNN）和LSTM，它们在自然语言处理和序列数据处理方面实现了重大突破。

随后，我们转向生成式学习，介绍了变分自编码器（VAE）和生成对抗网络（GAN）。

最后，我们探讨了当前最受欢迎的两大架构：基于注意力机制的网络和Transformer。这些架构在过去几年里彻底改变了整个领域。它们已经在自然语言处理任务中超越了所有其他模型，并逐步进入计算机视觉领域。

另一方面，图神经网络（GNN）目前尚不成熟，但具备广泛的应用潜力。

深度学习的未来方向

好消息是，到现在为止，你已经对这一领域及其主要模型有了非常全面的认识。坏消息是，深度学习的研究正在飞速发展，这意味着我们目前所学的还只是冰山一角。以下是一些你可以继续深入学习的方向：

• 强化学习
• Tensorflow、MXNet、JAX 等其他深度学习框架
• 当前最先进的计算机视觉架构，例如 EfficientNet
• 基于 Transformer 的自然语言处理系统，如 BERT 和 GPT
• 自监督学习
• 表征学习
• 深度学习在自动驾驶与人工智能辅助驾驶中的应用
• 医疗领域的应用
• 人工智能中的隐私问题
• AutoML（自动机器学习）
• MLOps（机器学习运维）
• 通用人工智能（AGI）

当然，没有人能够精通所有领域。随着你接触到更具挑战性的项目，你的知识会不断积累和深化。

后续学习路径

通过本课程，你已经熟悉了 PyTorch，并掌握了算法背后的数学原理与直观理解。现在，你已经准备好将深度学习应用于解决实际问题。你可以选择以下三条路径之一继续前进：

1. 访问 kaggle.com，寻找一个你感兴趣的问题，尝试运用本课程所学的知识开发解决方案。

2. 如果你更关注深度学习的研究方向，可以开始阅读学术论文，探索其具体实现与应用场景。paperswithcode.com 是开展这项工作的理想平台。

3. 最后，如果你想更深入地钻研深度学习并紧跟领域最新趋势，我们的博客 AI Summer 正适合你。在那里，你会找到各种算法的实现代码、关于算法直觉与数学原理的深入文章，以及构建深度学习应用的实用指南。

就这样了。祝你在未来的学习和实践中一切顺利！如有反馈或疑问，欢迎通过我们的社交媒体联系我们。