기술나눔

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

1. 프로젝트 소개

잡초는 농업의 주요 문제 중 하나로 작물의 성장과 수확량에 심각한 위협을 가합니다. 전통적인 수동 식별 및 관리 방법은 비효율적이고 부정확하므로 농업 생산의 효율성과 품질을 향상시키기 위해서는 고급 컴퓨터 비전 기술이 필요합니다. 딥 러닝 모델인 ResNet은 농지의 다양하고 복잡한 잡초 문제를 효과적으로 해결할 수 있을 뿐만 아니라 지능형 농업의 발전을 촉진하고 화학 살충제에 대한 의존도를 줄이는 데도 효과적입니다. 지속가능한 농업 발전의 잡초 분류에 ResNet을 사용함으로써 농부들에게 보다 지능적이고 정확한 농업 관리 솔루션을 제공하고, 농업 생산 효율성 향상과 농업 산업의 현대화를 촉진할 수 있습니다. 따라서 이 프로젝트에서는 현지화된 프레임워크인 PaddleClas+Swanlab+Gradio+Swanhub를 사용하여 잡초 분류 실험을 수행합니다.

PaddlePaddle은 바이두가 개발한 엔터프라이즈급 딥러닝 플랫폼으로, 모델 개발부터 배포까지 전체 프로세스 딥러닝 애플리케이션을 지원하도록 설계되었습니다. 이미지 처리, 자연어 처리, 음성 인식 등 다양한 딥 러닝 작업을 지원하는 풍부한 도구와 라이브러리를 제공합니다.패들패들

PaddleClas는 Paddle 프레임워크의 이미지 분류 작업에 특별히 사용되는 도구 라이브러리입니다. 개발자가 효율적인 이미지 분류 모델을 신속하게 구축하고 배포할 수 있도록 설계된 데이터 처리, 모델 정의, 교육, 평가 및 배포를 포함한 완전한 엔드투엔드 솔루션 세트를 제공합니다.패들클라스

SwanLab은 친숙한 API를 제공하고 하이퍼파라미터 추적, 지표 기록, 온라인 협업 및 기타 기능을 결합하여 ML 실험 추적 및 협업 경험을 향상시키는 오픈 소스 경량 AI 실험 추적 도구입니다.SwanLab 공식 문서에 오신 것을 환영합니다 |

Swanhub는 Geek Studio에서 개발한 오픈 소스 모델 협업 및 공유 커뮤니티입니다. AI 개발자에게 AI 모델 호스팅, 훈련 기록, 모델 결과 표시, 신속한 API 배포 등의 기능을 제공합니다.스완허브에 오신 것을 환영합니다

Gradio는 기계 학습 분야에서 작업하는 데이터 과학자, 연구원 및 개발자가 기계 학습 모델을 위한 사용자 인터페이스를 신속하게 생성하고 공유할 수 있도록 설계된 오픈 소스 Python 라이브러리입니다.그라디오

2. 준비부분

2.1 환경 설치

다음 3개의 라이브러리를 설치합니다.

paddle
swanlab
gradio

설치 명령:

pip install paddle swanlab gradio

2.2 데이터 세트 다운로드

잡초 분류 데이터 세트: DeepWeeds

DeepWeeds
--images
----1.jpg
----2.jpg
--train.txt
--val.txt
--test.txt
--classnames.txt

각각의 기능과 의미:

1. DeepWeeds 폴더: 이 폴더는 이미지 폴더 이미지, 트레이닝 세트 테스트 세트 검증 세트 파일 및 라벨 파일을 저장하는 데 사용됩니다.

2. 이미지 폴더: 트레이닝, 테스트, 검증 이미지 폴더를 저장하는 폴더입니다.

3. train.txt, val.txt, test.txt 파일: 이 파일은 학습, 테스트 및 검증 세트의 이미지 경로와 카테고리를 저장하는 데 사용됩니다.

4. classnames 파일: 카테고리 라벨을 저장하는 데 사용됩니다.

2.3 PaddleClas 프레임워크 다운로드

모델 링크:PaddleClas 모델

압축을 풀면 PaddleClas 폴더가 생성됩니다.

2.4 파일 디렉터리 생성

PaddleClas 폴더에 app.py를 만듭니다.

그것이 하는 일은: Gradio Demo를 실행하는 스크립트를 실행하는 것입니다.

3. ResNet 모델 훈련

3.1 구성 수정

먼저 PaddleClas 폴더에서 ppcls-->configs-->ImageNet-->Res2Net-->Res2Net50_14w_8s.yaml을 찾으세요.

에포크를 100으로, 카테고리 class_num을 9로, 학습 이미지 경로, 검증 이미지 경로 및 라벨 파일을 각각 수정합니다. 총 7가지가 변경되었습니다.

# global configs
Global:
  checkpoints: null
  pretrained_model: null
  output_dir: ./output/
  device: gpu
  save_interval: 1
  eval_during_train: True
  eval_interval: 1
  epochs: 100###########################1##############################
  print_batch_step: 10
  use_visualdl: False
  # used for static mode and model export
  image_shape: [3, 224, 224]
  save_inference_dir: ./inference
 
# model architecture
Arch:
  name: Res2Net50_14w_8s
  class_num: 9############################2##############################
 
# loss function config for traing/eval process
Loss:
  Train:
    - CELoss:
        weight: 1.0
        epsilon: 0.1
  Eval:
    - CELoss:
        weight: 1.0
 
 
Optimizer:
  name: Momentum
  momentum: 0.9
  lr:
    name: Cosine
    learning_rate: 0.1
  regularizer:
    name: 'L2'
    coeff: 0.0001
 
 
# data loader for train and eval
DataLoader:
  Train:
    dataset:
      name: ImageNetDataset
      image_root: ./weeds/images/#################3#######################
      cls_label_path: ./weeds/train.txt###########4########################
      transform_ops:
        - DecodeImage:
            to_rgb: True
            channel_first: False
        - RandCropImage:
            size: 224
        - RandFlipImage:
            flip_code: 1
        - NormalizeImage:
            scale: 1.0/255.0
            mean: [0.485, 0.456, 0.406]
            std: [0.229, 0.224, 0.225]
            order: ''
      batch_transform_ops:
        - MixupOperator:
            alpha: 0.2
 
    sampler:
      name: DistributedBatchSampler
      batch_size: 64
      drop_last: False
      shuffle: True
    loader:
      num_workers: 4
      use_shared_memory: True
 
  Eval:
    dataset: 
      name: ImageNetDataset
      image_root: ./DeepWeeds/images/###############5#######################
      cls_label_path: ./DeepWeeds/val.txt###########6########################
      transform_ops:
        - DecodeImage:
            to_rgb: True
            channel_first: False
        - ResizeImage:
            resize_short: 256
        - CropImage:
            size: 224
        - NormalizeImage:
            scale: 1.0/255.0
            mean: [0.485, 0.456, 0.406]
            std: [0.229, 0.224, 0.225]
            order: ''
    sampler:
      name: DistributedBatchSampler
      batch_size: 64
      drop_last: False
      shuffle: False
    loader:
      num_workers: 4
      use_shared_memory: True
 
Infer:
  infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  batch_size: 10
  transforms:
    - DecodeImage:
        to_rgb: True
        channel_first: False
    - ResizeImage:
        resize_short: 256
    - CropImage:
        size: 224
    - NormalizeImage:
        scale: 1.0/255.0
        mean: [0.485, 0.456, 0.406]
        std: [0.229, 0.224, 0.225]
        order: ''
    - ToCHWImage:
  PostProcess:
    name: Topk
    topk: 5
    class_id_map_file: ./DeepWeeds/classnaems.txt###########7##################
 
Metric:
  Train:
  Eval:
    - TopkAcc:
        topk: [1, 5]

3.2 스완랩 이용하기

PaddleClas 폴더에서 tools-->train.py를 찾으세요. swanlab 초기화

# Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
 #
 # Licensed under the Apache License, Version 2.0 (the "License");
 # you may not use this file except in compliance with the License.
 # You may obtain a copy of the License at
 #
 #     http://www.apache.org/licenses/LICENSE-2.0
 #
 # Unless required by applicable law or agreed to in writing, software
 # distributed under the License is distributed on an "AS IS" BASIS,
 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 # See the License for the specific language governing permissions and
 # limitations under the License.
 
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function
import os
import sys
 
 __dir__ = os.path.dirname(os.path.abspath(__file__))
 sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
 
from ppcls.utils import config
from ppcls.engine.engine import Engine
import swanlab
# -*- coding: utf-8 -*-
 
if __name__ == "__main__":
    args = config.parse_args()
    config = config.get_config(
        args.config, overrides=args.override, show=False)
    config.profiler_options = args.profiler_options
    engine = Engine(config, mode="train")
    
    ## 初始化swanlab
    swanlab.init(
        experiment_name="Swanlab_ResNet50_PaddleClas",
        description="Train ResNet50 for weeds classification.",
        project="Swanhub_Weeds_Classification",
        config={
            "model": "ResNet50",
            "optim": "Adam",
            "lr": 0.001,
            "batch_size": 64,
            "num_epochs": 100,
            "num_class": 9,
        }
    )
    engine.train()

PaddleClas에서 ppcls-->engine-->train-->utils.py를 찾아 다음 코드를 추가합니다.

swanlab.log({"train_lr_msg": lr_msg.split(": ")[1]})  #
swanlab.log({"train_CELoss": metric_msg.split(",")[0].split(': ')[1]})  ##
swanlab.log({'train_loss': metric_msg.split(",")[1].split(': ')[1]})

PaddleClas 폴더에서 ppcls-->engine-->engine.py를 찾아 다음 코드를 추가합니다.

swanlab.log({'best_metric': best_metric.get('metric')})

3.3 모델 훈련

콘솔에 다음 명령을 입력합니다.

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml

Swanlab에서 실험 세부정보 보기

실험 결과는 다음과 같습니다.

Swanlab에서 실험 결과 보기

3.4 모델 추론

콘솔에 다음 코드를 입력합니다.

python tools/infer.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/Res2Net50_14w_8s/best_model

4. DarkNet53 모델 훈련

4.1 구성 수정

먼저 PaddleClas 폴더에서 ppcls-->configs-->ImageNet-->DarkNet-->DarkNet53.yaml을 찾으세요.

에포크를 100으로, 카테고리 class_num을 9로, 학습 이미지 경로, 검증 이미지 경로 및 라벨 파일을 각각 수정합니다. 총 7가지가 변경되었습니다.

# global configs
Global:
  checkpoints: null
  pretrained_model: null
  output_dir: ./output/
  device: gpu
  save_interval: 1
  eval_during_train: True
  eval_interval: 1
  epochs: 100
  print_batch_step: 10
  use_visualdl: False
  # used for static mode and model export
  image_shape: [3, 256, 256]
  save_inference_dir: ./inference
 
# model architecture
Arch:
  name: DarkNet53
  class_num: 9
 
# loss function config for traing/eval process
Loss:
  Train:
    - CELoss:
        weight: 1.0
        epsilon: 0.1
  Eval:
    - CELoss:
        weight: 1.0
 
 
Optimizer:
  name: Momentum
  momentum: 0.9
  lr:
    name: Cosine
    learning_rate: 0.1
  regularizer:
    name: 'L2'
    coeff: 0.0001
 
 
# data loader for train and eval
DataLoader:
  Train:
    dataset:
      name: ImageNetDataset
      image_root: F:/datasets/DeepWeeds/images
      cls_label_path: F:/datasets/DeepWeeds/train.txt
      transform_ops:
        - DecodeImage:
            to_rgb: True
            channel_first: False
        - RandCropImage:
            size: 256
        - RandFlipImage:
            flip_code: 1
        - NormalizeImage:
            scale: 1.0/255.0
            mean: [0.485, 0.456, 0.406]
            std: [0.229, 0.224, 0.225]
            order: ''
      batch_transform_ops:
        - MixupOperator:
            alpha: 0.2
 
    sampler:
      name: DistributedBatchSampler
      batch_size: 64
      drop_last: False
      shuffle: True
    loader:
      num_workers: 4
      use_shared_memory: True
 
  Eval:
    dataset: 
      name: ImageNetDataset
      image_root: F:/datasets/DeepWeeds/images
      cls_label_path: F:/datasets/DeepWeeds/val.txt
      transform_ops:
        - DecodeImage:
            to_rgb: True
            channel_first: False
        - ResizeImage:
            resize_short: 292
        - CropImage:
            size: 256
        - NormalizeImage:
            scale: 1.0/255.0
            mean: [0.485, 0.456, 0.406]
            std: [0.229, 0.224, 0.225]
            order: ''
    sampler:
      name: DistributedBatchSampler
      batch_size: 64
      drop_last: False
      shuffle: False
    loader:
      num_workers: 4
      use_shared_memory: True
 
Infer:
  infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  batch_size: 10
  transforms:
    - DecodeImage:
        to_rgb: True
        channel_first: False
    - ResizeImage:
        resize_short: 292
    - CropImage:
        size: 256
    - NormalizeImage:
        scale: 1.0/255.0
        mean: [0.485, 0.456, 0.406]
        std: [0.229, 0.224, 0.225]
        order: ''
    - ToCHWImage:
  PostProcess:
    name: Topk
    topk: 5
    class_id_map_file: F:/datasets/DeepWeeds/classnames
 
Metric:
  Train:
  Eval:
    - TopkAcc:
        topk: [1, 5]

4.2 스완랩 이용하기

PaddleClas 폴더에서 tools-->train.py를 찾으세요. 초기화 swanlab 수정

# Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
 #
 # Licensed under the Apache License, Version 2.0 (the "License");
 # you may not use this file except in compliance with the License.
 # You may obtain a copy of the License at
 #
 #     http://www.apache.org/licenses/LICENSE-2.0
 #
 # Unless required by applicable law or agreed to in writing, software
 # distributed under the License is distributed on an "AS IS" BASIS,
 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 # See the License for the specific language governing permissions and
 # limitations under the License.
 
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function
import os
import sys
 
 __dir__ = os.path.dirname(os.path.abspath(__file__))
 sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
 
from ppcls.utils import config
from ppcls.engine.engine import Engine
import swanlab
# -*- coding: utf-8 -*-
 
if __name__ == "__main__":
    args = config.parse_args()
    config = config.get_config(
        args.config, overrides=args.override, show=False)
    config.profiler_options = args.profiler_options
    engine = Engine(config, mode="train")
    
    ## 初始化swanlab
    swanlab.init(
        experiment_name="Swanlab_DrakNet53_PaddleClas",
        description="Train DarkNet53 for weeds classification.",
        project="Swanhub_Weeds_Classification",
        config={
            "model": "DarkNet53",
            "optim": "Adam",
            "lr": 0.001,
            "batch_size": 64,
            "num_epochs": 100,
            "num_class": 9,
        }
    )
    engine.train()

4.3 모델 훈련

콘솔에 다음 명령을 입력합니다.

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/DarkNet/DarknetNet53.yaml

Swanlab에서 실험 세부정보 보기

실험 결과는 다음과 같습니다.

4.4 모델 추론

콘솔에 다음 코드를 입력합니다.

python tools/infer.py -c ./ppcls/configs/ImageNet/DarkNet/DarkNet53.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/DarkNet53/best_model

4.5 Swanlab 결과 표시

그림에서 알 수 있듯이 ResNet50 모델은 DarkNet53 모델보다 성능이 뛰어나며 swanlab은 편리한 비교 차트 기능을 제공합니다.

5. 그라디오 데모

계속됩니다. . .

6. Swanhub가 데모를 업로드하고 시연합니다.

계속됩니다. . .