算法题神经元

别只刷理论，动手做做真实数据集的算法题，效果明显。这就是坑，别信只刷题库，真实数据更考验实力。10 年经验，至少 3 次失败后才明白。

2023年3月，深圳，我接手了300个算法题的答疑。每个问题都跟神经元激活函数、反向传播算法有关。这些题目里，70%涉及到梯度下降优化，其中50%是关于学习率的调整。遇到最多的是LeakyReLU和ReLU函数的辨析，我至少回答了50次。