Compartilhamento de tecnologia

Estrutura doméstica PaddleClas combinada com Swanlab para classificação de ervas daninhas

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

1. Introdução do projeto

As ervas daninhas são um dos principais problemas na agricultura, representando uma séria ameaça ao crescimento e rendimento das culturas. Os métodos tradicionais de identificação e gestão manuais são ineficientes e imprecisos, pelo que é necessária tecnologia avançada de visão computacional para melhorar a eficiência e a qualidade da produção agrícola. Como um modelo de aprendizagem profunda, o ResNet tem um bom desempenho no tratamento de tarefas complexas de classificação de imagens. Ele pode não apenas resolver efetivamente o problema de ervas daninhas diversas e complexas em terras agrícolas, mas também promover o desenvolvimento da agricultura inteligente e reduzir a dependência de pesticidas químicos para atingir o objetivo. do desenvolvimento agrícola sustentável. Ao utilizar o ResNet para classificação de ervas daninhas, podemos fornecer aos agricultores soluções de gestão agrícola mais inteligentes e precisas, promover a melhoria da eficiência da produção agrícola e a modernização da indústria agrícola. Portanto, este projeto utiliza a estrutura localizada PaddleClas+Swanlab+Gradio+Swanhub para conduzir experimentos de classificação de ervas daninhas.

PaddlePaddle é uma plataforma de aprendizado profundo de nível empresarial desenvolvida pela Baidu, projetada para oferecer suporte a aplicativos de aprendizado profundo de processo completo, desde o desenvolvimento do modelo até a implantação. Ele fornece uma variedade de ferramentas e bibliotecas para oferecer suporte a uma variedade de tarefas de aprendizagem profunda, incluindo processamento de imagens, processamento de linguagem natural, reconhecimento de fala, etc.RemoRemo

PaddleClas é uma biblioteca de ferramentas usada especificamente para tarefas de classificação de imagens na estrutura Paddle. Ele fornece um conjunto completo de soluções ponta a ponta, incluindo processamento de dados, definição de modelo, treinamento, avaliação e implantação, projetadas para ajudar os desenvolvedores a construir e implantar rapidamente modelos eficientes de classificação de imagens.Classes de remo

SwanLab é uma ferramenta leve e de código aberto de rastreamento de experimentos de IA que melhora o rastreamento de experimentos de ML e a experiência de colaboração, fornecendo uma API amigável e combinando rastreamento de hiperparâmetros, registro de indicadores, colaboração online e outras funções.Bem-vindo à documentação oficial do SwanLab |

Swanhub é uma comunidade de colaboração e compartilhamento de modelos de código aberto desenvolvida pelo Geek Studio. Ele fornece aos desenvolvedores de IA funções como hospedagem de modelo de IA, registros de treinamento, exibição de resultados de modelo e implantação rápida de API.Bem vindo ao Swanhub

Gradio é uma biblioteca Python de código aberto projetada para ajudar cientistas de dados, pesquisadores e desenvolvedores que trabalham na área de aprendizado de máquina a criar e compartilhar rapidamente interfaces de usuário para modelos de aprendizado de máquina.Gradio

2. Parte de preparação

2.1 Instalação do ambiente

Instale as três bibliotecas a seguir:

  1. paddle
  2. swanlab
  3. gradio

Comando de instalação:

pip install paddle swanlab gradio

2.2 Baixar conjunto de dados

Conjunto de dados de classificação de ervas daninhas: DeepWeeds

  1. DeepWeeds
  2. --images
  3. ----1.jpg
  4. ----2.jpg
  5. --train.txt
  6. --val.txt
  7. --test.txt
  8. --classnames.txt

Suas respectivas funções e significados:

1. Pasta DeepWeeds: esta pasta é usada para armazenar imagens de pastas de imagens, arquivos de conjunto de verificação de conjunto de teste de conjunto de treinamento e arquivos de rótulo

2. pasta de imagens: esta pasta é usada para salvar pastas de imagens de treinamento, teste e verificação.

3. Arquivos train.txt, val.txt, test.txt: Este arquivo é usado para salvar os caminhos de imagem e categorias de conjuntos de treinamento, teste e validação.

4. arquivo de nomes de classe: usado para salvar rótulos de categoria

2.3 Baixe a estrutura PaddleClas

Link do modelo:Modelo PaddleClas

Após descompactar, você obterá a pasta PaddleClas.

2.4 Criar diretório de arquivo

Crie app.py na pasta PaddleClas.

O que faz é: executar o script que executa o Gradio Demo

3. Treinamento do modelo ResNet

3.1 Modificar configuração

Primeiro encontre ppcls-->configs-->ImageNet-->Res2Net-->Res2Net50_14w_8s.yaml na pasta PaddleClas.

Modifique épocas para 100, categoria class_num para 9, caminho da imagem de treinamento, caminho da imagem de verificação e arquivo de rótulo, respectivamente. Um total de 7 alterações foram feitas.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100###########################1##############################
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 224, 224]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: Res2Net50_14w_8s
  20.   class_num: 9############################2##############################
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: ./weeds/images/#################3#######################
  50.       cls_label_path: ./weeds/train.txt###########4########################
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 224
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: ./DeepWeeds/images/###############5#######################
  81.       cls_label_path: ./DeepWeeds/val.txt###########6########################
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 256
  88.         - CropImage:
  89.             size: 224
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 256
  113.     - CropImage:
  114.         size: 224
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: ./DeepWeeds/classnaems.txt###########7##################
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

3.2 Usando Swanlab

Encontre ferramentas -> train.py na pasta PaddleClas. Inicializar o Swanlab

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_ResNet50_PaddleClas",
  39.         description="Train ResNet50 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "ResNet50",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

Encontre ppcls-->engine-->train-->utils.py em PaddleClas e adicione o seguinte código:

  1. swanlab.log({"train_lr_msg": lr_msg.split(": ")[1]})  #
  2. swanlab.log({"train_CELoss": metric_msg.split(",")[0].split(': ')[1]})  ##
  3. swanlab.log({'train_loss': metric_msg.split(",")[1].split(': ')[1]})

Encontre ppcls-->engine-->engine.py na pasta PaddleClas e adicione o seguinte código:

swanlab.log({'best_metric': best_metric.get('metric')})

3.3 Treinamento de modelo

Digite o seguinte comando no console:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml

Veja detalhes do experimento no swanlab

Os resultados experimentais são os seguintes:

Veja resultados experimentais no swanlab

3.4 Raciocínio do modelo

Digite o seguinte código no console:

python tools/infer.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/Res2Net50_14w_8s/best_model

4. Treinamento do modelo DarkNet53

4.1 Modificar configuração

Primeiro encontre ppcls-->configs-->ImageNet-->DarkNet-->DarkNet53.yaml na pasta PaddleClas.

Modifique épocas para 100, categoria class_num para 9, caminho da imagem de treinamento, caminho da imagem de verificação e arquivo de rótulo, respectivamente. Um total de 7 alterações foram feitas.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 256, 256]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: DarkNet53
  20.   class_num: 9
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: F:/datasets/DeepWeeds/images
  50.       cls_label_path: F:/datasets/DeepWeeds/train.txt
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 256
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: F:/datasets/DeepWeeds/images
  81.       cls_label_path: F:/datasets/DeepWeeds/val.txt
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 292
  88.         - CropImage:
  89.             size: 256
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 292
  113.     - CropImage:
  114.         size: 256
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: F:/datasets/DeepWeeds/classnames
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

4.2 Usando Swanlab

Encontre ferramentas -> train.py na pasta PaddleClas. Modificar inicialização do swanlab

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_DrakNet53_PaddleClas",
  39.         description="Train DarkNet53 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "DarkNet53",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

4.3 Treinamento de modelo

Digite o seguinte comando no console:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/DarkNet/DarknetNet53.yaml

Veja detalhes do experimento no swanlab

Os resultados experimentais são os seguintes:

4.4 Raciocínio do modelo

Digite o seguinte código no console:

python tools/infer.py -c ./ppcls/configs/ImageNet/DarkNet/DarkNet53.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/DarkNet53/best_model

4.5 Exibição de resultados do Swanlab

Como pode ser visto na figura, o modelo ResNet50 tem desempenho melhor que o modelo DarkNet53, e o swanlab fornece uma função de gráfico de comparação conveniente.

5. Demonstração de Gradio

Continua. . .

6. Swanhub carrega e demonstra a demonstração

Continua. . .

Perfil pessoal

Ele se dedica à pesquisa de tecnologia há mais de 30 anos e é proficiente em diversas linguagens como java, linux, javascript, php, css, etc. estação de documentação do desenvolvedor para compartilhar alguns problemas no desenvolvimento de tecnologia para referência futura.

minhas informações de contato

Correspondência