【DSW Gallery】基于YOLOX模型和iTAG标注数据的图像检测示例

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,5000CU*H 3个月
简介: EasyCV是基于Pytorch,以自监督学习和Transformer技术为核心的 all-in-one 视觉算法建模工具,并包含图像分类,度量学习,目标检测,姿态识别等视觉任务的SOTA算法。本文将为您介绍如何在PAI-DSW中使用EasyCV和PAI-iTAG标注的检测数据训练YOLOX模型。

直接使用

请打开基于YOLOX模型和iTAG标注数据的图像检测示例,并点击右上角 “ 在DSW中打开” 。

image.png

EasyCV图像检测-YOLOX-iTAG

  本文将以YOLOX模型为例,介绍如何基于easyCV使用PAI-iTAG标注的数据进行目标检测模型训练和预测。

  YOLO系列的开发主要包括V1(2015),V2(2016),V3(2018),V4 (2020)以及V5(2020)等一系列版本。YOLO 是由Joseph Redmon 和 Ross Girshick 在 2015 年的 You Only Look Once: Unified, Real-Time Object Detection (Link) 中提出的单阶段目标检测网络。YOLO系列以其响应速度快、精度高、结构简单、部署方便等特点受到工程研究人员的青睐。同时,YOLO系列由于需要人工设定样本正负,导致模型存在泛化能力差的问题。针对此类问题,旷视科技研究院BaseDetection团队结合学术界的先进成果和工程实践提出了YOLOX.

  YOLOX在YOLO系列地基础上汲取近些年学术界目标检测地最新功效并承继YOLO系列简单部署的特性.除此之外,YOLOX设计了Decoupled Head、Data Aug、Anchor Free和SimOTA部件。其代码目前支持各个平台(MegEngine、TensorRT、ONNX、OpenVino 和 ncnn)的部署。

  在EasyCV中,我们提供了在COCO2017数据集上多种规格的预训练模型(Link)可用于下游任务的fintune。

  本文将介绍如何在pai-dsw基于EasyCV和PAI-iTAG标注数据快速使用YOLOX进行图像检测模型的训练、推理。

运行环境要求

modelscope:tf1.15torch1.11-gpu-py37-cu113-ubuntu20.04 镜像, GPU机型 P100 or V100, 内存 32G

安装依赖包

1、安装mmcv-full

# 根据cuda和torch版本
! pip install -U openmim && mim install mmcv-full==1.6.1

2、安装EasyCV算法包

可以通过如下命令安装,也可以拉取最新EasyCV代码进行安装

! echo y | pip uninstall pai-easycv && pip install http://pai-vision-data-hz.oss-cn-zhangjiakou.aliyuncs.com/EasyCV/pkgs/whl/2023_02/pai_easycv-0.9.0-py3-none-any.whl
! echo y | pip uninstall mmdet

3、简单验证

from easycv.apis import *

图像检测模型训练&预测

下面示例介绍如何利用PAI-iTAG标注的检测数据集,进行yolox检测模型的训练

数据准备

可以使用PAI-iTAG标注的自定义数据集,也可以使用我们提供了示例iTAG数据快速走通流程

! wget http://pai-vision-data-hz.oss-cn-zhangjiakou.aliyuncs.com/data/itag_det_example/itag_det_example.tar.gz && tar -zxf itag_det_example.tar.gz

使用easycv提供的工具easycv.tools.prepare_data.convert_det_itag2ra将iTAG的标注文件转换成easycv格式

使用该工具需要指定如下参数

  • itag_label_file:itag标注文件路径,如下示例中的itag_det_example/pet_det.manifest
  • raw_label_dir:转换后的标签文件保存目录,会在该目录下生成train和val文件夹,分别代表训练和验证标签,如下示例中的 itag_det_example/labels
  • class_path:该数据的的标签名列表文件,如示例中的 itag_det_example/class_list.txt
  • split:代表是否分隔训练验证集
  • split_ratio:代表分隔验证集的比例,如示例中为0.2,代表20%的数据会分配给验证集
! python -m easycv.tools.prepare_data.convert_det_itag2raw itag_det_example/pet_det.manifest itag_det_example/labels itag_det_example/class_list.txt --split --split_ratio 0.2

转换后训练所需的文件目录如下

├── imgs
│   ├── Abyssinian_100.jpg
│   ├── Abyssinian_103.jpg
│   ├── Abyssinian_104.jpg
│   ├── Abyssinian_105.jpg
│   ├── Abyssinian_106.jpg
        ...
│   └── havanese_9.jpg
├── labels
│   ├── train
│   │   ├── Abyssinian_100.txt
│   │   ├── Abyssinian_104.txt
│   │   ├── Abyssinian_105.txt
            ...
│   │   └── havanese_9.txt
│   └── val
│       ├── Abyssinian_103.txt
│       ├── Abyssinian_107.txt
│       ├── Abyssinian_108.txt
            ....
│       ├── Abyssinian_111.txt
│       └── havanese_91.txt

训练模型

下载示例配置文件, 进行YOLOX-S模型训练

! rm -rf yolox_m_raw.py
! wget http://pai-vision-data-hz.oss-cn-zhangjiakou.aliyuncs.com/EasyCV/configs/detection/yolox/yolox_m_raw.py

为了适配小数据,我们对配置文件yolox_m_raw.py做如下字段的修改,减少训练epoch数目、学习率
如果使用自定义的数据集,则还需要修改train_dataset和val_dataset中的图片数据路径img_root_path、标签文件路径label_root_path、以及类别列表CLASSES

total_epochs = 50
#optimizer.lr -> 0.002
optimizer = dict(
    type='SGD', lr=0.002, momentum=0.9, weight_decay=5e-4, nesterov=True)
# log_config.interval 5
log_config = dict(interval=5)

为了保证模型效果,我们在预训练模型基础上finetune, 执行如下命令启动训练

!python -m torch.distributed.launch --nproc_per_node=1 \
/opt/conda/lib/python3.7/site-packages/easycv/tools/train.py \
yolox_m_raw.py --work_dir work_dir/example_det --launcher pytorch --fp16 \
--load_from http://pai-vision-data-hz.oss-cn-zhangjiakou.aliyuncs.com/EasyCV/modelzoo/detection/yolox/yolox_m_bs16_lr002/epoch_300.pth

预测

查看训练产生的模型文件,其中_export.pt结尾的模型文件是最终导出用来做推理的模型

! ls work_dir/example_det/*pt*

导入模型权重,并预测测试图片的检测结果

import cv2
from easycv.predictors import YoloXPredictor
output_ckpt = 'work_dir/example_det/epoch_50_export.pt'
detector = YoloXPredictor(output_ckpt)
output = detector(['itag_det_example/imgs/Abyssinian_1.jpg'])
print(output)
detector.visualize('itag_det_example/imgs/Abyssinian_1.jpg', output[0], out_file='out.jpg')

epoch_50_export.pt文件上传至OSS,使用PAI-EAS中的easycv predictor即可部署在线服务


相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
6月前
|
存储 XML JSON
开集目标检测-标签提示目标检测大模型(吊打YOLO系列-自动化检测标注)
开集目标检测-标签提示目标检测大模型(吊打YOLO系列-自动化检测标注)
|
26天前
|
XML 机器学习/深度学习 数据可视化
目标检测笔记(六):如何通过界面化操作YOLOv5完成数据集的自动标注
这篇文章介绍了如何通过界面化操作YOLOv5来完成数据集的自动标注,包括修改源码、自动标注的前期准备、开始自动标注、可视化标注效果以及将XML文件转换为YOLO训练所需的TXT格式。
43 1
目标检测笔记(六):如何通过界面化操作YOLOv5完成数据集的自动标注
|
5月前
|
人工智能 计算机视觉 Python
【超详细】【YOLOV8使用说明】一套框架解决CV的5大任务:目标检测、分割、姿势估计、跟踪和分类任务【含源码】(1)
【超详细】【YOLOV8使用说明】一套框架解决CV的5大任务:目标检测、分割、姿势估计、跟踪和分类任务【含源码】
【超详细】【YOLOV8使用说明】一套框架解决CV的5大任务:目标检测、分割、姿势估计、跟踪和分类任务【含源码】(1)
|
26天前
|
机器学习/深度学习 算法 PyTorch
目标检测实战(五): 使用YOLOv5-7.0版本对图像进行目标检测完整版(从自定义数据集到测试验证的完整流程)
本文详细介绍了使用YOLOv5-7.0版本进行目标检测的完整流程,包括算法介绍、环境搭建、数据集准备、模型训练、验证、测试以及评价指标。YOLOv5以其高精度、快速度和模型小尺寸在计算机视觉领域受到广泛应用。
253 0
目标检测实战(五): 使用YOLOv5-7.0版本对图像进行目标检测完整版(从自定义数据集到测试验证的完整流程)
|
28天前
|
机器学习/深度学习 JSON 数据可视化
YOLO11-pose关键点检测:训练实战篇 | 自己数据集从labelme标注到生成yolo格式的关键点数据以及训练教程
本文介绍了如何将个人数据集转换为YOLO11-pose所需的数据格式,并详细讲解了手部关键点检测的训练过程。内容涵盖数据集标注、格式转换、配置文件修改及训练参数设置,最终展示了训练结果和预测效果。适用于需要进行关键点检测的研究人员和开发者。
145 0
|
5月前
|
计算机视觉
【超详细】【YOLOV8使用说明】一套框架解决CV的5大任务:目标检测、分割、姿势估计、跟踪和分类任务【含源码】(2)
【超详细】【YOLOV8使用说明】一套框架解决CV的5大任务:目标检测、分割、姿势估计、跟踪和分类任务【含源码】
|
6月前
|
计算机视觉
在ModelScope中,如果您使用图像分类模型进行推理并返回识别的坐标位置
在ModelScope中,如果您使用图像分类模型进行推理并返回识别的坐标位置
170 3
|
12月前
|
数据采集 数据可视化 数据格式
3D检测数据集 DAIR-V2X-V 转为Kitti格式 | 可视化
本文分享在DAIR-V2X-V数据集中,将标签转为Kitti格式,并可视化3D检测效果。
185 0
|
机器学习/深度学习 并行计算 数据可视化
【DSW Gallery】EasyCV-基于关键点的视频分类示例
EasyCV是基于Pytorch,以自监督学习和Transformer技术为核心的 all-in-one 视觉算法建模工具,并包含图像分类,度量学习,目标检测,姿态识别等视觉任务的SOTA算法。本文以基于关键点的视频分类为例,为您介绍如何在PAI-DSW中使用EasyCV。
【DSW Gallery】EasyCV-基于关键点的视频分类示例
|
算法 PyTorch 算法框架/工具
【DSW Gallery】基于EasyCV的STDC图像语义分割示例
EasyCV是基于Pytorch,以自监督学习和Transformer技术为核心的 all-in-one 视觉算法建模工具,并包含图像分类,度量学习,目标检测,姿态识别等视觉任务的SOTA算法。本文将为您介绍如何在PAI-DSW中使用EasyCV训练轻量化语义分割模型STDC
【DSW Gallery】基于EasyCV的STDC图像语义分割示例