开发者学堂课程【机器学习算法 :自适应共振理论网络-1】学习笔记,与课程紧密联系,让用户快速学习知识。
课程地址:https://developer.aliyun.com/learning/course/535/detail/7249
自适应共振理论网络-1
内容介绍
一、自适应共振理论网络
二、ART 网络结构
一、自适应共振理论网络
自适应共振理论( Adaptive Resonance Theory , ART ),1976年由美国波斯顿大学学者 G . A . Carpenter 提出,试图为人类的心理和认知活动建立统一的数学理论。随后又和 S . Grossberg 提出了 ART 网络。
神经网络常见的问题:
n 有监督学习网络:通过反复输入样本数据,使其达到稳定记忆(得到可以接受的参数)后,再输入新样本继续训练的话,前面的训练结果会受到影响;
n 无监督学习网络:新样本会对已训练的聚类进行修改,从学习的角度来理解,即新知识的学习,会导致对旧知识的遗忘。很多类型的网络,也会考虑对旧知识的保留,比如权重调整公式中考虑包含对数据的学习项及对旧数据的忘却项,通过控制学习系数和忘记系数的大小来平衡新旧知识的关系,但是这些系数的确定成为新的问题,很难有一般方法解决;
n 无/有监督学习网络:最终学习效果主要通过权重矩阵 W 来体现,但其能包含的信息终归有限,记忆的模式类别信息必然会被新输入产生的模式抵消(遗忘),影响分类结果。也不能无限扩大网络规模。
二、ART 网络结构
ART 网络由两层组成两个子系统,一个叫比较层 C ,一个叫识别层 R ,及三种控制信号:复位信号( Reset )、逻辑控制信号(G1、G2)组成。
控制信号 G1:使 C 层能够区分网络运行的不同阶段。开始时,其值为1,当开始运行后 R 层返回信号 tij 时, G =0, C 层会比较
R tyj 和输入 Xy ,两者相等,则输出 xyj ,否则输出0;
控制信号 G2:检测输入模式 X 是否为0,它等于 X 各分量逻辑或门限 的值,当 Xyj 全为0,则G2=0,否则 Gz =4。 G , Gz 之间存在一定关系。记 R 层输出向量 R 的各分量的逻辑或值为 Ro ,则存在以下关系: G1 = G2Ro ;
控制信号 Reset :该信号可以使 R 层竞争获胜的神经元无效。如
输入 X 果获胜神经元对应的输出模式和输入模式的相似程度无法达到预设的测量标准,则触发该信号。
网络接受新的输入后,开始检查输入和 R 层已有分类信息的匹配程度(竞争学习得到获胜单元)。
对于相似程度高的(获胜神经元)需要继续考察其储存的模式与输入模式的相似程度(根据预先设定的参考门限评估)。
如果相似度超过门限,则归于该类,调整权重,使其遇到与当前输
入模式相似的样本时得到更大的相似度。
如果相似度没有超过门限,则对匹配程度次高的神经元对应的模式进行相似度评估,如果超门限,返回上一步,否则继续本步查找匹配程度次次高的模式,返回操作还回到本步,则需要在输出端设立一个代表新模式的神经元,代表该模式,参与后续的匹配评估过程。



