开发者学堂课程【神经网络概览及算法详解：神经网络学习规则1】学习笔记与课程紧密联系，让用户快速学习知识
课程地址：https://developer.aliyun.com/learning/course/40/detail/918
神经网络学习规则1
内容介绍
一、关于学习的定义
二、学习规则的类型
要考虑如何去确定这个神经网络相关的权重、阈值这些信息，就需要了解神经网络的一些规则。
一、关于学习的定义
学习是指通过训练使个体在行为上产生较持久改变的过程，一般来说效果随着训练的增加而提高，即通过学习获得进步。
人工神经网络的功能由其连接的拓扑结构和网络的连接权值决定，其全体的权值W整体反映了神经网络对于所解决问题的知识存储。即一旦拓扑结构和权值确定，该网络可以应用于新的数据得到结果。
人工神经网络的学习就是通过对样本的学习训练，不断改变网络的拓扑结构及连接权值，使得输出不断的接近期望输出值。
通过训练改变权值的规则，被称为学习算法或者学习规则。有时也称作训练规则或者训练算法，学习规则对人工神经网络非常重要。
二、学习规则的类型
按照一般的分类标准，通常分为三类：
1. 有监督学习：学习模式为纠错
不断的给网络提供一个输入及其期望的正确输出（教师信号），将ANN的实际输出和期望输出做比较,不符时,按照一定规则调整权值参数，重新计算、比较，直到网络对于给定的输入均能产生期望的输出，则认为该网络训练完成，即已学会样本数据中的知识和规则，即可用于解决实际问题。
2. 无监督学习：学习模式为自组织
学习时不管给网络提供动态输入信息，网络根据特定的内部结构和学习规则，在输入信息流中发现可能的模式和规律，同时根据网络功能和输入信息调整权值（自组织）。使网络能对属于同一类的模式进行自动分类。该模式网络权值的调整不取决于教师信号，网络的学习评价标准隐含于网络内部。
3. 灌输式学习
将网络设计成特别的例子，当输入为该例子时，网络可以回忆起该例子。网络权值非训练得到，而是通过某种设计方法得到，权值一旦设计好，即一次性灌输网络，不再变动。
