传播共1篇
反向传播时为什么会有梯度消失现象?-编程社

反向传播时为什么会有梯度消失现象?

梯度消失是指在神经网络中进行反向传播算法时,某些权重的梯度变得非常小,甚至趋近于零,导致这些权重几乎不再更新,从而使得网络在训练过程中难以学习。 梯度消失现象的主要原因有两个: 激活...
清欢渡的头像-编程社钻石会员清欢渡2年前
0366101