Technologieaustausch

Inländischer Rahmen PaddleClas kombiniert mit Swanlab zur Unkrautklassifizierung

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

1. Projekteinführung

Unkräuter sind eines der größten Probleme in der Landwirtschaft und stellen eine ernsthafte Bedrohung für das Pflanzenwachstum und den Ertrag dar. Herkömmliche manuelle Identifizierungs- und Managementmethoden sind ineffizient und ungenau. Daher ist fortschrittliche Computer-Vision-Technologie erforderlich, um die Effizienz und Qualität der landwirtschaftlichen Produktion zu verbessern. Als Deep-Learning-Modell eignet sich ResNet gut für die Bewältigung komplexer Bildklassifizierungsaufgaben. Es kann nicht nur das Problem vielfältiger und komplexer Unkräuter in landwirtschaftlichen Flächen effektiv lösen, sondern auch die Entwicklung einer intelligenten Landwirtschaft fördern und die Abhängigkeit von chemischen Pestiziden verringern einer nachhaltigen landwirtschaftlichen Entwicklung. Durch die Verwendung von ResNet zur Unkrautklassifizierung können wir Landwirten intelligentere und genauere landwirtschaftliche Managementlösungen bieten, die Verbesserung der landwirtschaftlichen Produktionseffizienz und die Modernisierung der Agrarindustrie fördern. Daher verwendet dieses Projekt das lokalisierte Framework PaddleClas+Swanlab+Gradio+Swanhub, um Experimente zur Unkrautklassifizierung durchzuführen.

PaddlePaddle ist eine von Baidu entwickelte Deep-Learning-Plattform auf Unternehmensebene, die Deep-Learning-Anwendungen im gesamten Prozess von der Modellentwicklung bis zur Bereitstellung unterstützen soll. Es bietet eine Fülle von Tools und Bibliotheken zur Unterstützung einer Vielzahl von Deep-Learning-Aufgaben, einschließlich Bildverarbeitung, Verarbeitung natürlicher Sprache, Spracherkennung usw.PaddelPaddel

PaddleClas ist eine Werkzeugbibliothek, die speziell für Bildklassifizierungsaufgaben im Paddle-Framework verwendet wird. Es bietet einen vollständigen Satz End-to-End-Lösungen, einschließlich Datenverarbeitung, Modelldefinition, Schulung, Bewertung und Bereitstellung, die Entwicklern dabei helfen sollen, schnell effiziente Bildklassifizierungsmodelle zu erstellen und bereitzustellen.PaddelKlasse

SwanLab ist ein Open-Source-Tool zur Verfolgung von KI-Experimenten, das die Verfolgung und Zusammenarbeit von ML-Experimenten verbessert, indem es eine benutzerfreundliche API bereitstellt und Hyperparameter-Tracking, Indikatoraufzeichnung, Online-Zusammenarbeit und andere Funktionen kombiniert.Willkommen bei der offiziellen SwanLab-Dokumentation

Swanhub ist eine von Geek Studio entwickelte Open-Source-Community für die Zusammenarbeit und den Austausch von Modellen. Es bietet KI-Entwicklern Funktionen wie das Hosten von KI-Modellen, Trainingsaufzeichnungen, die Anzeige von Modellergebnissen und eine schnelle API-Bereitstellung.Willkommen bei Swanhub

Gradio ist eine Open-Source-Python-Bibliothek, die Datenwissenschaftlern, Forschern und Entwicklern, die im Bereich maschinelles Lernen arbeiten, dabei helfen soll, schnell Benutzeroberflächen für Modelle für maschinelles Lernen zu erstellen und zu teilen.Gradio

2. Vorbereitungsteil

2.1 Umgebungsinstallation

Installieren Sie die folgenden 3 Bibliotheken:

  1. paddle
  2. swanlab
  3. gradio

Installationsbefehl:

pip install paddle swanlab gradio

2.2 Datensatz herunterladen

Datensatz zur Unkrautklassifizierung: DeepWeeds

  1. DeepWeeds
  2. --images
  3. ----1.jpg
  4. ----2.jpg
  5. --train.txt
  6. --val.txt
  7. --test.txt
  8. --classnames.txt

Ihre jeweiligen Funktionen und Bedeutung:

1. DeepWeeds-Ordner: In diesem Ordner werden Bildordnerbilder, Trainingssatz-Testsatz-Verifizierungssatzdateien und Etikettendateien gespeichert

2. Bilderordner: Dieser Ordner wird zum Speichern von Schulungs-, Test- und Verifizierungsbildordnern verwendet.

3. Dateien train.txt, val.txt, test.txt: Diese Datei wird zum Speichern der Bildpfade und Kategorien von Trainings-, Test- und Validierungssätzen verwendet.

4. Klassennamendatei: Wird zum Speichern von Kategoriebezeichnungen verwendet

2.3 Laden Sie das PaddleClas-Framework herunter

Modelllink:PaddleClas-Modell

Nach dem Entpacken erhalten Sie den PaddleClas-Ordner.

2.4 Dateiverzeichnis erstellen

Erstellen Sie app.py im PaddleClas-Ordner.

Was es tut, ist: Führen Sie das Skript aus, das Gradio Demo ausführt

3. ResNet-Modelltraining

3.1 Konfiguration ändern

Suchen Sie zuerst ppcls-->configs-->ImageNet-->Res2Net-->Res2Net50_14w_8s.yaml im PaddleClas-Ordner.

Ändern Sie die Epochen auf 100, die Kategorie class_num auf 9, den Trainingsbildpfad, den Verifizierungsbildpfad bzw. die Etikettendatei. Insgesamt wurden 7 Änderungen vorgenommen.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100###########################1##############################
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 224, 224]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: Res2Net50_14w_8s
  20.   class_num: 9############################2##############################
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: ./weeds/images/#################3#######################
  50.       cls_label_path: ./weeds/train.txt###########4########################
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 224
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: ./DeepWeeds/images/###############5#######################
  81.       cls_label_path: ./DeepWeeds/val.txt###########6########################
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 256
  88.         - CropImage:
  89.             size: 224
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 256
  113.     - CropImage:
  114.         size: 224
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: ./DeepWeeds/classnaems.txt###########7##################
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

3.2 Verwendung von Swanlab

Suchen Sie tools-->train.py im PaddleClas-Ordner. Swanlab initialisieren

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_ResNet50_PaddleClas",
  39.         description="Train ResNet50 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "ResNet50",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

Suchen Sie in PaddleClas nach ppcls-->engine-->train-->utils.py und fügen Sie den folgenden Code hinzu:

  1. swanlab.log({"train_lr_msg": lr_msg.split(": ")[1]})  #
  2. swanlab.log({"train_CELoss": metric_msg.split(",")[0].split(': ')[1]})  ##
  3. swanlab.log({'train_loss': metric_msg.split(",")[1].split(': ')[1]})

Suchen Sie im PaddleClas-Ordner nach ppcls-->engine-->engine.py und fügen Sie den folgenden Code hinzu:

swanlab.log({'best_metric': best_metric.get('metric')})

3.3 Modellschulung

Geben Sie den folgenden Befehl auf der Konsole ein:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml

Details zum Experiment in Swanlab anzeigen

Die experimentellen Ergebnisse sind wie folgt:

Sehen Sie sich experimentelle Ergebnisse in Swanlab an

3.4 Modellargumentation

Geben Sie den folgenden Code in die Konsole ein:

python tools/infer.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/Res2Net50_14w_8s/best_model

4. DarkNet53-Modelltraining

4.1 Konfiguration ändern

Suchen Sie zuerst ppcls-->configs-->ImageNet-->DarkNet-->DarkNet53.yaml im PaddleClas-Ordner.

Ändern Sie die Epochen auf 100, die Kategorie class_num auf 9, den Trainingsbildpfad, den Verifizierungsbildpfad bzw. die Etikettendatei. Insgesamt wurden 7 Änderungen vorgenommen.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 256, 256]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: DarkNet53
  20.   class_num: 9
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: F:/datasets/DeepWeeds/images
  50.       cls_label_path: F:/datasets/DeepWeeds/train.txt
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 256
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: F:/datasets/DeepWeeds/images
  81.       cls_label_path: F:/datasets/DeepWeeds/val.txt
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 292
  88.         - CropImage:
  89.             size: 256
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 292
  113.     - CropImage:
  114.         size: 256
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: F:/datasets/DeepWeeds/classnames
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

4.2 Verwendung von Swanlab

Suchen Sie tools-->train.py im PaddleClas-Ordner. Ändern Sie die Initialisierung von Swanlab

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_DrakNet53_PaddleClas",
  39.         description="Train DarkNet53 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "DarkNet53",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

4.3 Modellschulung

Geben Sie den folgenden Befehl auf der Konsole ein:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/DarkNet/DarknetNet53.yaml

Details zum Experiment in Swanlab anzeigen

Die experimentellen Ergebnisse sind wie folgt:

4.4 Modellargumentation

Geben Sie den folgenden Code in die Konsole ein:

python tools/infer.py -c ./ppcls/configs/ImageNet/DarkNet/DarkNet53.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/DarkNet53/best_model

4.5 Swanlab-Ergebnisanzeige

Wie aus der Abbildung ersichtlich ist, ist die Leistung des ResNet50-Modells besser als das DarkNet53-Modell, und Swanlab bietet eine praktische Vergleichsdiagrammfunktion.

5. Gradio-Demo

Fortgesetzt werden. . .

6. Swanhub lädt die Demo hoch und führt sie vor

Fortgesetzt werden. . .

Persönliches Profil

Er widmet sich seit mehr als 30 Jahren der Technologieforschung und beherrscht verschiedene Sprachen wie Java, Linux, Javascript, PHP, CSS usw. Er hat viele Beiträge im Open-Source-Bereich geleistet Entwicklerdokumentationsstation, um einige Themen in der Technologieentwicklung als zukünftige Referenz zu teilen

meine Kontaktdaten

Post