全文共1647字，预计学习时长5分钟
2025年04月08日
如果你正在读这篇文章，那么很可能你已经知道什么是神经网络，什么是激活函数，但是，一些关于机器学习的入门课程并不能很清楚地说明，为什么我们需要这些激活函数。我们需要它们吗?没有它们，神经网络还能工作吗?
首先让我们回顾一下关于神经网络的一些事情。它们通常被可视化地表示为一个类似图表的结构，如下图所示:
2025年04月08日
上节课我们学习了梯度下降算法在训练过程中的重要作用和原理，这节课我们继续学习模型训练过程中的数值稳定性和模型参数的初始化方法。