自适应共振理论网络-1| 学习笔记

简介: 快速学习自适应共振理论网络-1。

开发者学堂课程【机器学习算法 :自适应共振理论网络-1】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/535/detail/7249


自适应共振理论网络-1

 

内容介绍

一、自适应共振理论网络

二、ART 网络结构

 

一、自适应共振理论网络

自适应共振理论( Adaptive Resonance Theory , ART ),1976年由美国波斯顿大学学者 G . A . Carpenter 提出,试图为人类的心理和认知活动建立统一的数学理论。随后又和 S . Grossberg 提出了 ART 网络。

神经网络常见的问题:

n 有监督学习网络:通过反复输入样本数据,使其达到稳定记忆(得到可以接受的参数)后,再输入新样本继续训练的话,前面的训练结果会受到影响;

n 无监督学习网络:新样本会对已训练的聚类进行修改,从学习的角度来理解,即新知识的学习,会导致对旧知识的遗忘。很多类型的网络,也会考虑对旧知识的保留,比如权重调整公式中考虑包含对数据的学习项及对旧数据的忘却项,通过控制学习系数和忘记系数的大小来平衡新旧知识的关系,但是这些系数的确定成为新的问题,很难有一般方法解决;

n 无/有监督学习网络:最终学习效果主要通过权重矩阵 W 来体现,但其能包含的信息终归有限,记忆的模式类别信息必然会被新输入产生的模式抵消(遗忘),影响分类结果。也不能无限扩大网络规模。

 

二、ART 网络结构

ART 网络由两层组成两个子系统,一个叫比较层 C ,一个叫识别层 R ,及三种控制信号:复位信号( Reset )、逻辑控制信号(G1、G2)组成。

image.png

image.png

image.png

控制信号 G1:使  C 层能够区分网络运行的不同阶段。开始时,其值为1,当开始运行后 R 层返回信号  tij  时, G =0, C 层会比较

R tyj 和输入 Xy ,两者相等,则输出 xyj ,否则输出0;

控制信号 G2:检测输入模式 X 是否为0,它等于 X 各分量逻辑或门限 的值,当 Xyj 全为0,则G2=0,否则 Gz =4。 G , Gz 之间存在一定关系。记 R 层输出向量 R 的各分量的逻辑或值为 Ro ,则存在以下关系: G1 = G2Ro ;

控制信号 Reset :该信号可以使 R 层竞争获胜的神经元无效。如

输入 X 果获胜神经元对应的输出模式和输入模式的相似程度无法达到预设的测量标准,则触发该信号。

image.png

网络接受新的输入后,开始检查输入和 R 层已有分类信息的匹配程度(竞争学习得到获胜单元)。

对于相似程度高的(获胜神经元)需要继续考察其储存的模式与输入模式的相似程度(根据预先设定的参考门限评估)。

如果相似度超过门限,则归于该类,调整权重,使其遇到与当前输

入模式相似的样本时得到更大的相似度。

如果相似度没有超过门限,则对匹配程度次高的神经元对应的模式进行相似度评估,如果超门限,返回上一步,否则继续本步查找匹配程度次次高的模式,返回操作还回到本步,则需要在输出端设立一个代表新模式的神经元,代表该模式,参与后续的匹配评估过程。

相关文章
|
3月前
|
机器学习/深度学习 算法 机器人
基于自适应RBF神经网络滑模控制的机械臂轨迹跟踪仿真(Simulink仿真实现)
基于自适应RBF神经网络滑模控制的机械臂轨迹跟踪仿真(Simulink仿真实现)
221 4
|
Ubuntu 网络安全 图形学
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
在Ubuntu 20.04系统中解决网络图标消失和无法连接有线网络问题的方法,其中第三种方法通过检查并确保Windows防火墙中相关服务开启后成功恢复了网络连接。
4616 0
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
|
机器学习/深度学习 人工智能 自然语言处理
深度学习中的自适应神经网络:原理与应用
【8月更文挑战第14天】在深度学习领域,自适应神经网络作为一种新兴技术,正逐渐改变我们处理数据和解决问题的方式。这种网络通过动态调整其结构和参数来适应输入数据的分布和特征,从而在无需人工干预的情况下实现最优性能。本文将深入探讨自适应神经网络的工作原理、关键技术及其在多个领域的实际应用,旨在为读者提供一个全面的视角,理解这一技术如何推动深度学习向更高效、更智能的方向发展。
|
存储 算法 网络虚拟化
【计算机网络】学习笔记,第三篇:数据链路层
现在的光纤宽带接入 FTTx 都要使用 PPPoE 的方式进行接入。在 PPPoE 弹出的窗口中键入在网络运营商购买的用户名和密码,就可以进行宽带上网了 利用 ADSL 进行宽带上网时,从用户个人电脑到家中的 ADSL 调制解调器之间,也是使用 RJ-45 和 5 类线(即以太网使用的网线)进行连接的,并且也是使用 PPPoE 弹出的窗口进行拨号连接的
475 5
|
机器学习/深度学习 数据可视化 Linux
Seaborn可视化学习笔记(一):可视化神经网络权重分布情况
这篇文章是关于如何使用Seaborn库来可视化神经网络权重分布的教程,包括函数信息、测试代码和实际应用示例。
347 0
|
机器学习/深度学习 自然语言处理 并行计算
【深度学习+面经】Transformer 网络学习笔记
Transformer模型的核心概念、优缺点以及在多个领域的应用,并提供了针对Transformer架构的面试问题及答案。
740 2
|
机器学习/深度学习 人工智能 自然语言处理
深度学习中的自适应神经网络
【6月更文挑战第24天】在深度学习的浪潮中,自适应神经网络以其独特的灵活性和高效性引起了研究者的广泛关注。本文将深入探讨自适应神经网络的设计原理、优化算法以及在不同领域的应用案例,揭示其在处理复杂数据模式时的优势与挑战。
|
人工智能 自然语言处理 安全
构建未来:AI驱动的自适应网络安全防御系统提升软件测试效率:自动化与持续集成的实践之路
【5月更文挑战第30天】 在数字化时代,网络安全已成为维护信息完整性、保障用户隐私和企业持续运营的关键。传统的安全防御手段,如防火墙和入侵检测系统,面对日益复杂的网络攻击已显得力不从心。本文提出了一种基于人工智能(AI)技术的自适应网络安全防御系统,该系统能够实时分析网络流量,自动识别潜在威胁,并动态调整防御策略以应对未知攻击。通过深度学习算法和自然语言处理技术的结合,系统不仅能够提高检测速度和准确性,还能自主学习和适应新型攻击模式,从而显著提升网络安全防御的效率和智能化水平。 【5月更文挑战第30天】 在快速迭代的软件开发周期中,传统的手动测试方法已不再适应现代高效交付的要求。本文探讨了如
|
机器学习/深度学习 自然语言处理 算法
深度学习中的自适应神经网络:理论与应用
【7月更文挑战第1天】本文旨在探究自适应神经网络在深度学习领域的理论基础及其在多个应用场景中的实际效能。通过分析自适应机制如何优化网络结构,提高学习效率和模型泛化能力,我们进一步讨论了自适应神经网络面临的主要挑战及未来发展方向。
|
机器学习/深度学习 算法
基于RBF神经网络的自适应控制器simulink建模与仿真
使用MATLAB2022a,开发了一个基于RBF神经网络的自适应控制器Simulink S函数,进行了控制仿真。核心程序展示了RBF网络的权重和参数调整。测试结果显示了控制效果。RBF网络是一种三层前馈网络,利用高斯函数处理非线性系统。自适应控制器通过在线调整参数应对系统变化。网络学习分为自组织和有导师两个阶段,通过误差信号调整权重,确保系统稳定性。