RT-DETR改进策略【卷积层】| CVPR-2020 Strip Pooling 空间池化模块 处理不规则形状的对象 含二次创新

简介: RT-DETR改进策略【卷积层】| CVPR-2020 Strip Pooling 空间池化模块 处理不规则形状的对象 含二次创新

一、本文介绍

本文记录的是利用Strip Pooling模块优化RT-DETR的目标检测网络模型Strip Pooling结合了长而窄的卷积核形状在一个空间维度上的长程关系捕捉能力和在另一个空间维度上的局部细节捕捉能力,有效地处理复杂的场景信息。这一机制通过采用$1×N$或$N×1$的池化核形状来适应不同的图像特征,高模型对目标形状和分布的适应性。在场景解析网络中,Strip Pooling可以被用于提升对具有长程带状结构离散分布目标的解析能力,特别是在复杂场景或不同对象布局条件下效果更好。


专栏目录:RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
专栏地址:RT-DETR改进专栏——以发表论文的角度,快速准确的找到有效涨点的创新点!

二、Strip Pooling 介绍

2.1 设计出发点

  • 解决传统空间池化局限性:传统空间池化通常采用固定形状的$N×N$核,在处理具有不规则形状的对象或现实场景中广泛存在的各向异性上下文时存在局限性。

例如,在一些情况下,目标对象可能具有长程带状结构(如草地)或离散分布(如柱子),使用大的方形池化窗口无法很好地解决问题,因为它不可避免地会包含来自无关区域的污染信息。

  • 更有效地捕获长程依赖:为了更有效地捕获长程依赖,作者提出利用空间池化扩大卷积神经网络(CNNs)的感受野并收集有用的上下文信息,从而提出了Strip Pooling的概念。

2.2 原理

  • 数学定义
    • 标准空间平均池化:对于二维输入张量$x\in\mathbb{R}^{H×W}$,平均池化层需要一个池化的空间范围$(h×w)$。当$h$整除$H$且$w$整除$W$时,池化后的输出$y$是一个二维张量,高度为$H{o}=\frac{H}{h}$,宽度为$W{o}=\frac{W}{w}$,其计算公式为:$$y_{i_{o},j_{o}}=\frac{1}{h×w}\sum_{0\leq i{o}<H{o}$且$0\leq j{o}<W{o}$,每个$y$的空间位置对应一个大小为$h×w$的池化窗口。
    • Strip Pooling:对于二维张量$x\in\mathbb{R}^{H×W}$,在Strip Pooling中,需要一个池化的空间范围为$(H,1)$或$(1,W)$。水平Strip Pooling后的输出$y^{h}\in\mathbb{R}^{H}$计算公式为:$$y_{i}^{h}=\frac{1}{W}\sum_{0\leq j垂直Strip Pooling后的输出$y^{v}\in\mathbb{R}^{W}$计算公式为:$$y_{j}^{v}=\frac{1}{H}\sum_{0\leq i
  • 长程依赖和局部细节捕捉:通过长而窄的核形状,能够在离散分布的区域之间建立长程依赖,并对带状形状的区域进行编码。同时,由于在另一个维度上保持窄核形状,也能够专注于捕捉局部细节

2.3 结构

2.3.1 Strip Pooling Module (SPM)

整体结构
如图所示,输入张量$x\in\mathbb{R}^{C×H×W}$首先被送入两个并行路径,每个路径包含一个水平垂直Strip Pooling层,后面跟着一个核大小为3的1D卷积层用于调制当前位置及其邻域特征,得到$y^{h}\in\mathbb{R}^{C×H}$和$y^{v}\in\mathbb{R}^{C×W}$。

然后将$y^{h}$和$y^{v}$组合得到$y\in\mathbb{R}^{C×H×W}$($y{c,i,j}=y{c,i}^{h}+y_{c,j}^{v}$)。

最后输出$z\in\mathbb{R}^{C×H×W}$,计算方式为$z = Scale(x,\sigma(f(y)))$,其中$Scale(,)$是元素级乘法,$\sigma$是sigmoid函数,$f$是一个1×1卷积。

在这里插入图片描述

  • 路径连接:在这个过程中,输出张量的每个位置都可以与输入张量的多个位置建立关系。例如,输出张量中由黑色框界定的正方形与具有相同水平或垂直坐标的所有位置相连。

    2.3.2 Mixed Pooling Module (MPM)

    整体结构:由两个子模块组成,用于同时捕获不同位置之间的短程和长程依赖

对于长程依赖,采用水平垂直Strip Pooling操作;对于短程依赖,采用一个轻量级的金字塔池化子模块,它有两个空间池化层,后面跟着卷积层用于多尺度特征提取,还有一个2D卷积层用于保留原始空间信息,池化后的特征图bin大小分别为20×2012×12,三个子路径通过求和组合。

然后将两个子模块嵌套到具有瓶颈结构残差块中,在每个子模块之前,先使用一个1×1卷积层进行通道缩减,两个子模块的输出连接在一起后再送入另一个1×1卷积层进行通道扩展

在这里插入图片描述

  • 模块嵌套:基于上述两个子模块,将它们嵌套到具有瓶颈结构的残差块中进行参数减少和模块化设计。

2.4 优势

  • 与全局平均池化相比
    • 避免不必要连接Strip Pooling考虑长而窄的范围,而不是整个特征图,避免了在相距较远的位置之间建立大多数不必要的连接。
    • 注意力机制优势:与基于注意力的模块相比,SPM是轻量级的,可以很容易地嵌入到任何构建块中,以提高捕获长程空间依赖和利用通道间依赖的能力
  • 与金字塔池化模块相比
    • 更强大和适应性更强:所提出的MPM是一种模块化设计,可以很容易地以顺序方式使用,以扩展长程依赖收集子模块的作用。在相同的骨干网络下,只有两个MPMs(参数约为原始PPM的1/3)的网络性能甚至优于PSPNet。

论文:https://arxiv.org/abs/2003.13328
源码: https://github.com/houqb/SPNet

三、实现代码及YOLOv11修改步骤

模块完整介绍、个人总结、实现代码、模块改进、二次创新以及各模型添加步骤参考如下地址:

https://blog.csdn.net/qq_42591591/article/details/144061118

目录
相关文章
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
PAI Model Gallery 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型
DeepSeek 系列模型以其卓越性能在全球范围内备受瞩目,多次评测中表现优异,性能接近甚至超越国际顶尖闭源模型(如OpenAI的GPT-4、Claude-3.5-Sonnet等)。企业用户和开发者可使用 PAI 平台一键部署 DeepSeek 系列模型,实现 DeepSeek 系列模型与现有业务的高效融合。
|
3天前
|
人工智能 搜索推荐 Docker
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手
DeepSeek R1 + LobeChat + Ollama:快速本地部署模型,创建个性化 AI 助手
1970 101
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手
|
1月前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
阿里云与企业共筑容器供应链安全
171370 17
|
10天前
|
Linux iOS开发 MacOS
deepseek部署的详细步骤和方法,基于Ollama获取顶级推理能力!
DeepSeek基于Ollama部署教程,助你免费获取顶级推理能力。首先访问ollama.com下载并安装适用于macOS、Linux或Windows的Ollama版本。运行Ollama后,在官网搜索“deepseek”,选择适合你电脑配置的模型大小(如1.5b、7b等)。通过终端命令(如ollama run deepseek-r1:1.5b)启动模型,等待下载完成即可开始使用。退出模型时输入/bye。详细步骤如下图所示,轻松打造你的最强大脑。
8552 86
|
1月前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
随着云计算和DevOps的兴起,容器技术和自动化在软件开发中扮演着愈发重要的角色,但也带来了新的安全挑战。阿里云针对这些挑战,组织了一场关于云上安全的深度访谈,邀请了内部专家穆寰、匡大虎和黄竹刚,深入探讨了容器安全与软件供应链安全的关系,分析了当前的安全隐患及应对策略,并介绍了阿里云提供的安全解决方案,包括容器镜像服务ACR、容器服务ACK、网格服务ASM等,旨在帮助企业构建涵盖整个软件开发生命周期的安全防护体系。通过加强基础设施安全性、技术创新以及倡导协同安全理念,阿里云致力于与客户共同建设更加安全可靠的软件供应链环境。
150307 32
|
1天前
|
人工智能 自然语言处理 JavaScript
宜搭上新,DeepSeek 插件来了!
钉钉宜搭近日上线了DeepSeek插件,无需编写复杂代码,普通用户也能轻松调用强大的AI大模型能力。安装后,平台新增「AI生成」组件,支持创意内容生成、JS代码编译、工作汇报等场景,大幅提升工作效率。快来体验这一高效智能的办公方式吧!
886 5
|
2天前
|
API 开发工具 Python
阿里云PAI部署DeepSeek及调用
本文介绍如何在阿里云PAI EAS上部署DeepSeek模型,涵盖7B模型的部署、SDK和API调用。7B模型只需一张A10显卡,部署时间约10分钟。文章详细展示了模型信息查看、在线调试及通过OpenAI SDK和Python Requests进行调用的步骤,并附有测试结果和参考文档链接。
660 5
阿里云PAI部署DeepSeek及调用
|
11天前
|
人工智能 自然语言处理 Java
Spring AI,搭建个人AI助手
本期主要是实操性内容,聊聊AI大模型,并使用Spring AI搭建属于自己的AI助手、知识库。本期所需的演示源码笔者托管在Gitee上(https://gitee.com/catoncloud/spring-ai-demo),读者朋友可自行查阅。
939 41
Spring AI,搭建个人AI助手
|
3天前
|
机器学习/深度学习 人工智能 并行计算
一文了解火爆的DeepSeek R1 | AIGC
DeepSeek R1是由DeepSeek公司推出的一款基于强化学习的开源推理模型,无需依赖监督微调或人工标注数据。它在数学、代码和自然语言推理任务上表现出色,具备低成本、高效率和多语言支持等优势,广泛应用于教育辅导、金融分析等领域。DeepSeek R1通过长链推理、多语言支持和高效部署等功能,显著提升了复杂任务的推理准确性,并且其创新的群体相对策略优化(GRPO)算法进一步提高了训练效率和稳定性。此外,DeepSeek R1的成本低至OpenAI同类产品的3%左右,为用户提供了更高的性价比。
785 10
|
2月前
|
弹性计算 人工智能 安全
对话 | ECS如何构筑企业上云的第一道安全防线
随着中小企业加速上云,数据泄露、网络攻击等安全威胁日益严重。阿里云推出深度访谈栏目,汇聚产品技术专家,探讨云上安全问题及应对策略。首期节目聚焦ECS安全性,提出三道防线:数据安全、网络安全和身份认证与权限管理,确保用户在云端的数据主权和业务稳定。此外,阿里云还推出了“ECS 99套餐”,以高性价比提供全面的安全保障,帮助中小企业安全上云。
201994 15
对话 | ECS如何构筑企业上云的第一道安全防线

热门文章

最新文章