YOLOv11改进策略【模型轻量化】| 替换骨干网络 CVPR-2023 FasterNet 高效快速的部分卷积块

简介: YOLOv11改进策略【模型轻量化】| 替换骨干网络 CVPR-2023 FasterNet 高效快速的部分卷积块

一、本文介绍

本文记录的是基于FasterNet的YOLOv11轻量化改进方法研究FasterNet的网络结构借鉴 CNN 的设计理念,通过提出的PConv减少推理时的计算和内存成本,同时减少通道数并增加部分比例,降低延迟,并通过后续的PWConv弥补特征信息可能缺失的问题,提高了准确性。本文在替换骨干网络中配置了原论文中的fasternet_t0fasternet_t1fasternet_t2fasternet_sfasternet_mfasternet_l六种模型,以满足不同的需求。

模型 参数量 计算量 推理速度
YOLOv11m 20.0M 67.6GFLOPs 3.5ms
Improved 13.0M 33.2GFLOPs 2.6ms

专栏目录:YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
专栏地址:YOLOv11改进专栏——以发表论文的角度,快速准确的找到有效涨点的创新点!

二、FasterNet结构详解

2.1 出发点

在计算机视觉任务中,追求快速神经网络是一个趋势。然而,现有的一些神经网络在降低FLOPs(浮点运算次数)时,往往忽略了FLOPS(每秒浮点运算次数)的优化,导致实际运行速度不够快。FasterNet的设计出发点是为了克服这一问题,实现既减少FLOPs又提高FLOPS,从而在各种设备上达到快速运行的效果,同时不影响准确性。

2.2 原理

2.2.1 PConv(部分卷积)的原理

  • 减少计算冗余和内存访问:观察到现有算子(如DWConv)因频繁内存访问导致FLOPS低,提出PConv。它利用特征图在不同通道间的冗余,仅对部分输入通道应用常规卷积进行空间特征提取,其余通道保持不变。

    例如,对于输入输出通道数相同且采用典型部分比例$r=\frac{1}{4}$的情况,PConv的FLOPs仅为常规卷积的$\frac{1}{16}$,内存访问量也仅为常规卷积的$\frac{1}{4}$。

  • 与PWConv结合PConv后接PWConv(逐点卷积),其有效感受野类似T形卷积,==更关注中心位置==。这种组合方式比直接使用T形卷积更能利用滤波器间的冗余,进一步节省FLOPs。

    2.2.2 FasterNet的构建原理

    PConvPWConv为主要构建算子,构建FasterNet。它保持架构简单,具有硬件友好性。其整体架构包含四个层次阶段,每个阶段前有嵌入层或合并层用于空间下采样和通道数扩展,每个阶段包含多个FasterNet块,每个块由一个PConv层和两个PWConv层组成,类似倒置残差块结构,中间层通道数扩展且有 shortcut连接以复用输入特征。同时,仅在每个中间PWConv层后放置归一化和激活层,以保留特征多样性并降低延迟。

2.3 结构

2.3.1 整体架构

  • 四个阶段:具有四个层次阶段,各阶段通过嵌入层(如$4×4$卷积,步长为4)或合并层(如$2×2$卷积,步长为2)进行空间下采样和通道数扩展。
  • FasterNet块:每个阶段包含多个FasterNet块,每个块由PConv层两个PWConv层组成。

在这里插入图片描述

2.3.2 各层细节

  • PConv层:按照部分比例对输入通道进行卷积操作,例如$r=\frac{1}{4}$时仅对$\frac{1}{4}$的输入通道进行卷积。
  • PWConv层:在PConv层之后,用于进一步处理特征。

在这里插入图片描述

  • 归一化和激活层:采用批量归一化(BN),激活层对于较小的FasterNet变体选择GELU,较大变体选择ReLU,且仅在中间PWConv层后放置,以减少对特征多样性的影响并降低延迟。

2.4 优势

  • 速度快
    • PConv的高FLOPS:在GPU、CPU和ARM处理器上,PConv相比DWConv分别实现了$10.5X$、$6.2X$和$22.8X$更高的FLOPS,同时FLOPs显著降低。例如,10层纯PConv的堆叠在不同处理器上展现出良好的计算速度。
    • FasterNet的高效运行:在多种设备上,如GPU、CPU和ARM处理器,FasterNet相比其他神经网络(如MobileViT、ResNet等)在保持相似或更高准确性的情况下,运行速度更快。

      例如,在ImageNet - 1k上,FasterNet - T0在GPU、CPU和ARM处理器上分别比MobileViT - XXS快$2.8×$、$3.3X$和$2.4X$,同时精度更高;FasterNet - L达到83.5%的top - 1准确率,与Swin - B相当,在GPU上推理吞吐量提高36%,在CPU上节省37%的计算时间。

  • 准确性高:在分类、检测和分割等视觉任务上取得了先进的性能。在ImageNet - 1k分类任务中,不同变体的FasterNet都取得了较好的准确率,且在下游的COCO数据集上进行目标检测和实例分割任务时,相比ResNet和ResNext等模型,具有更高的平均精度(AP)。
  • 结构简单:架构设计相比许多其他模型更简单,展示了设计简单而强大神经网络的可行性。这种简单性有助于硬件实现和模型的理解与应用。

论文:https://arxiv.org/pdf/2303.03667
源码:https://github.com/JierunChen/FasterNet

三、实现代码及YOLOv11修改步骤

模块完整介绍、个人总结、实现代码、模块改进、二次创新以及各模型添加步骤参考如下地址:

https://blog.csdn.net/qq_42591591/article/details/143092678

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
目录
相关文章
|
3天前
YOLOv11改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型
YOLOv11改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型
32 18
YOLOv11改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型
|
3天前
|
机器学习/深度学习 编解码 自动驾驶
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV1,用于移动视觉应用的高效卷积神经网络
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV1,用于移动视觉应用的高效卷积神经网络
32 16
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV1,用于移动视觉应用的高效卷积神经网络
|
3天前
|
机器学习/深度学习 移动开发 测试技术
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV2,含模型详解和完整配置步骤
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV2,含模型详解和完整配置步骤
26 13
YOLOv11改进策略【模型轻量化】| 替换骨干网络为MoblieNetV2,含模型详解和完整配置步骤
|
2月前
|
SQL 安全 网络安全
网络安全与信息安全:知识分享####
【10月更文挑战第21天】 随着数字化时代的快速发展,网络安全和信息安全已成为个人和企业不可忽视的关键问题。本文将探讨网络安全漏洞、加密技术以及安全意识的重要性,并提供一些实用的建议,帮助读者提高自身的网络安全防护能力。 ####
80 17
|
2月前
|
存储 SQL 安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
随着互联网的普及,网络安全问题日益突出。本文将介绍网络安全的重要性,分析常见的网络安全漏洞及其危害,探讨加密技术在保障网络安全中的作用,并强调提高安全意识的必要性。通过本文的学习,读者将了解网络安全的基本概念和应对策略,提升个人和组织的网络安全防护能力。
|
2月前
|
SQL 安全 网络安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
随着互联网的普及,网络安全问题日益突出。本文将从网络安全漏洞、加密技术和安全意识三个方面进行探讨,旨在提高读者对网络安全的认识和防范能力。通过分析常见的网络安全漏洞,介绍加密技术的基本原理和应用,以及强调安全意识的重要性,帮助读者更好地保护自己的网络信息安全。
61 10
|
2月前
|
SQL 安全 网络安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
在数字化时代,网络安全和信息安全已成为我们生活中不可或缺的一部分。本文将介绍网络安全漏洞、加密技术和安全意识等方面的内容,并提供一些实用的代码示例。通过阅读本文,您将了解到如何保护自己的网络安全,以及如何提高自己的信息安全意识。
70 10
|
2月前
|
存储 监控 安全
云计算与网络安全:云服务、网络安全、信息安全等技术领域的融合与挑战
本文将探讨云计算与网络安全之间的关系,以及它们在云服务、网络安全和信息安全等技术领域中的融合与挑战。我们将分析云计算的优势和风险,以及如何通过网络安全措施来保护数据和应用程序。我们还将讨论如何确保云服务的可用性和可靠性,以及如何处理网络攻击和数据泄露等问题。最后,我们将提供一些关于如何在云计算环境中实现网络安全的建议和最佳实践。
|
2月前
|
监控 安全 网络安全
网络安全与信息安全:漏洞、加密与意识的交织
在数字时代的浪潮中,网络安全与信息安全成为维护数据完整性、保密性和可用性的关键。本文深入探讨了网络安全中的漏洞概念、加密技术的应用以及提升安全意识的重要性。通过实际案例分析,揭示了网络攻击的常见模式和防御策略,强调了教育和技术并重的安全理念。旨在为读者提供一套全面的网络安全知识框架,从而在日益复杂的网络环境中保护个人和组织的资产安全。
|
2月前
|
安全 网络安全 数据安全/隐私保护
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
在数字化时代,网络安全和信息安全已成为我们日常生活中不可或缺的一部分。本文将深入探讨网络安全漏洞、加密技术和安全意识等方面的问题,并提供一些实用的建议和解决方案。我们将通过分析网络攻击的常见形式,揭示网络安全的脆弱性,并介绍如何利用加密技术来保护数据。此外,我们还将强调提高个人和企业的安全意识的重要性,以应对日益复杂的网络威胁。无论你是普通用户还是IT专业人士,这篇文章都将为你提供有价值的见解和指导。

热门文章

最新文章