开发者社区> 问答> 正文

造成了梯度消失和梯度膨胀是什么呢?

造成了梯度消失和梯度膨胀是什么呢?

展开
收起
游客5ixw6pdymb5xs 2022-03-15 00:09:44 434 0
1 条回答
写回答
取消 提交回答
  • 深度网络的链式连乘法则,使得反向传播时到达前几层时,权值更新值非常小或非常大。可以通过ReLU解决一部分。

    2022-03-15 00:10:09
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
理解过拟合 立即下载
机器能理解上下文吗-RNN和LSTM神经网络的原理及应用 立即下载
机器能理解上下文吗 RNN和LSTM神经网络的原理及应用 立即下载