我们来说明前向和后向传播之间的区别,一旦理解了这一点,你就可以更好地理解和可视化整个神经网络的运行方式。
在神经网络中,向前传播数据以获取输出,然后将其与实际预期值进行比较以获得误差,这是正确数据与机器学习算法预测数据之间的差异。为了最小化该误差,现在你必须求每个权重的误差导数来向后传播,然后从权重中减去该误差导数值。
训练神经元启动、激活或抑制的时间,就是神经网络进行学习的时候,每个神经元应仅针对某类输入激活,而非全部。因此,通过向前传播,可以看到神经网络的行为表现并找到误差。在找出网络误差率后,可以后向传播并使用梯度下降的形式更新权重值。再强调一次,通过前向传播数据查看权重的执行情况,然后向后传播数据以更新权重值,持续该过程,直到误差值达到最小(希望是全局最小值而非局部最小值)。
资料来源:《C#神经网络编程》,文章链接:https://developer.aliyun.com/article/726786
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。