开发者社区> 问答> 正文

神经网络的后向传播是什么?

神经网络的后向传播是什么?

展开
收起
松岛菜菜 2021-10-29 15:57:50 1857 0
来自:华章出版社
1 条回答
写回答
取消 提交回答
  • 后向传播是误差向后传播之意,是一种使用梯度下降的有监督学习神经网络算法。算法中计算所谓的梯度误差函数,其对应于网络权重,它是感知器delta规则的一般形式,并一直拓展到多层前馈神经网络。

    与前向传播不同,后向传播通过在网络中后向移动来计算梯度。首先计算最后一层权重的梯度,依次计算,最后计算第一层的梯度。随着最近深度学习在图像和语音识别领域的普及,后向传播再次成为人们关注的焦点。就所有意图和目的而言,它是一种有效的算法,而当今版本利用GPU来进一步提高计算性能。

    最后,由于后向传播计算取决于前向阶段的激活和输出(所有层的非误差项,包括隐藏层),所有这些值都必须在后向传播开始之前进行计算,因此,对于梯度下降的每次迭代来说,前向计算必须在后向传播之前完成。

    资料来源:《C#神经网络编程》,文章链接:https://developer.aliyun.com/article/726786

    2021-10-29 16:08:24
    赞同 展开评论 打赏
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
Session:更加安全、可靠的数据中心网络产品更新 立即下载
基于神经网络的语言合成 立即下载
机器能理解上下文吗-RNN和LSTM神经网络的原理及应用 立即下载