单层感知器| 学习笔记

简介: 快速学习单层感知器。

开发者学堂课程【机器学习算法 :单层感知器】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/535/detail/7234


单层感知器

 

内容介绍

一、感知器模型

二、单层感知器:线性分类

三、单层感知器的学习算法

 

一、感知器模型

1.感知器(Perceptron):用于线性可分模式分类的最简单的神经网络模型。由一个具有可调树突权值和偏置的神经元组成。1958 年 Frank Rosenblatt 提出一种具有单层计算单元的神经网络,即为 Perceptron。其本质是一个非线性前馈网络,同层内无互联,不同层间无反馈,由下层向上层传递。其输入、输出均为离散值,神经元对输入加权求和后,由阈值函数决定其输出。感知器实际上是一个简单的单层神经网络模型。单节点感知器就是 MP 模型,首次提出了学习的概念。

image.png

2.罗森布拉特给出感知机一个简单直观的学习方案:给定一个有输入输出实例的训练集,感知机「学习」一个函数:对每个例子,若感知机的输出值比实例低太多,则增加它的权重,否则若比实例高太多,则减少它的权重,感知器是整个神经网络的基础,神经元通过响应函数确定输出,神经元之间通过权值进行传递信息,权重的确定根据误差来进行调节,这就是学习的过程。

 

二、单层感知器:线性分类

1、单层感知器:通过计算权重和输入乘积的和 f(x)=sign(∑(w*x)),根据和的正负来判断分类。

2、该感知器的分类逻辑:

(1)计算各输入变量加权后的和∑。

(2)根据和∑是否大于0得到分类结果,大于0为1,小于0则为-1。

3、对于任一个训练样本x,其输入特征为(xi1,xi2)。(i表示第i个样本)

4、求和:sum=x1*w1+x2*w2+b

(1)当x1*w1+x2*w2+b>0时,为正类

(2)当x1*w1+x2*w2+b<=0时,为负类

即 x1*w1+x2*w2+b=0为正负类的分界超平面

二维空间即为一条直线,直线上的点为正类,直线下的点为负类

将直线方程 x1*w1+x2*w2+b=0 整理成习惯的公式:f(x1)=-(w1/w1*x1)-b

如图:

image.png

 

三、单层感知器的学习算法

采用的是离散感知器算法:

离散感知器:image.png

具体步骤:

1.初始化权值,赋予较小的非零随机数。如果输入样本线性可分,无论初始值如何取,都会稳定收敛。

2.输入样本{X,Y},其中image.png,i=1,2,...,k,       共 k 条n+1个分量的输入,输出为 k 条 m 个分量的向量:image.png,i=1,2,...,k,    

3.计算各输出节点的实际输出:image.png

4.按照实际输出值和期望值之间的差更新权重:

image.png, η为学习速率

5.返回第2步,处理下一组输入样本

6.循环上述过程,直到感知器对所有样本的实际输出和期望输出一致

相关文章
|
机器学习/深度学习 调度
详解 Diffusion (扩散) 模型
详解 Diffusion (扩散) 模型
1085 0
|
机器学习/深度学习 存储 计算机视觉
【CVPR2020】ECA-Net:深度卷积神经网络的有效通道注意力
【CVPR2020】ECA-Net:深度卷积神经网络的有效通道注意力
2333 1
【CVPR2020】ECA-Net:深度卷积神经网络的有效通道注意力
|
机器学习/深度学习 数据可视化 算法
ECA-Net:深度卷积神经网络的高效通道注意力
最近,**通道注意力机制**已被证明在提高深度卷积神经网络 (CNN) 的性能方面具有巨大潜力。然而,大多数现有方法致力于开发更复杂的注意力模块以获得更好的性能,这不可避免地增加了模型的复杂性。为了克服性能和复杂性权衡的悖论,**本文提出了一种高效通道注意 (ECA) 模块,该模块仅涉及少量参数,同时带来明显的性能增益**。通过剖析 SENet 中的通道注意模块,我们凭经验表明**避免降维对于学习通道注意很重要**,**适当的跨通道交互可以在显着降低模型复杂度的同时保持性能**。因此,**我们提出了一种无需降维的局部跨通道交互策略,可以通过一维卷积有效实现**。此外,**我们开发了一种自适应选
2776 0
ECA-Net:深度卷积神经网络的高效通道注意力
|
9月前
|
传感器 人工智能 物联网
穿戴科技新风尚:智能服装设计与技术全解析
穿戴科技新风尚:智能服装设计与技术全解析
748 85
|
机器学习/深度学习 数据采集 人工智能
深度学习的魔法:用神经网络识别手写数字
本文将引导读者了解如何使用深度学习技术,特别是卷积神经网络(CNN)来识别手写数字。我们将从基础理论出发,逐步深入到实际操作,包括数据的预处理、模型的构建和训练,以及结果的评估。通过本文,读者不仅能掌握使用深度学习进行图像识别的技能,还能理解其背后的原理。让我们一同揭开深度学习的神秘面纱,探索其在图像处理领域的无限可能。
|
7月前
|
数据采集 Web App开发 前端开发
Python爬虫中time.sleep()与动态加载的配合使用
Python爬虫中time.sleep()与动态加载的配合使用
|
机器学习/深度学习 人工智能 算法
一、单层感知器(MCP人工神经元模型)
一、单层感知器(MCP人工神经元模型)
|
机器学习/深度学习 人工智能 算法
【人工智能】传统语音识别算法概述,应用场景,项目实践及案例分析,附带代码示例
传统语音识别算法是将语音信号转化为文本形式的技术,它主要基于模式识别理论和数学统计学方法。以下是传统语音识别算法的基本概述
1094 2
|
算法 C语言
经典算法之深度优先搜索(DFS)
经典算法之深度优先搜索(DFS)
经典算法之深度优先搜索(DFS)
西门子S7-1200编程实例,组织块如何使用?
本篇我们通过一个实例来讲解西门子S7-1200的组织块如何使用。下面我们做一个组织块的使用练习,使用循环中断产生一赫兹的时钟信号,在Q0.0输出。先来分析一下,一赫兹的时钟信号周期为一秒,高低电平各持续500毫秒交替出现,因此每隔500毫秒产生中断,在循环中断组织块程序中对Q0.0取反即可。
西门子S7-1200编程实例,组织块如何使用?