Обмен технологиями

Отечественная система PaddleClas в сочетании с Swanlab для классификации сорняков

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

1. Представление проекта

Сорняки являются одной из основных проблем в сельском хозяйстве, создавая серьезную угрозу для роста сельскохозяйственных культур и урожайности. Традиционные методы ручной идентификации и управления неэффективны и неточны, поэтому для повышения эффективности и качества сельскохозяйственного производства необходимы передовые технологии компьютерного зрения. Как модель глубокого обучения, ResNet хорошо справляется со сложными задачами классификации изображений. Она может не только эффективно решить проблему разнообразных и сложных сорняков на сельскохозяйственных угодьях, но также способствовать развитию интеллектуального сельского хозяйства и снижению зависимости от химических пестицидов. устойчивого развития сельского хозяйства. Используя ResNet для классификации сорняков, мы можем предоставить фермерам более интеллектуальные и точные решения для управления сельским хозяйством, способствовать повышению эффективности сельскохозяйственного производства и модернизации сельскохозяйственной отрасли. Поэтому в этом проекте используется локализованная платформа PaddleClas+Swanlab+Gradio+Swanhub для проведения экспериментов по классификации сорняков.

PaddlePaddle — это платформа глубокого обучения корпоративного уровня, разработанная Baidu и предназначенная для поддержки полнопроцессных приложений глубокого обучения, от разработки модели до развертывания. Он предоставляет множество инструментов и библиотек для поддержки различных задач глубокого обучения, включая обработку изображений, обработку естественного языка, распознавание речи и т. д.ВеслоВесло

PaddleClas — это библиотека инструментов, специально используемая для задач классификации изображений в платформе Paddle. Он предоставляет полный набор комплексных решений, включая обработку данных, определение моделей, обучение, оценку и развертывание, призванных помочь разработчикам быстро создавать и развертывать эффективные модели классификации изображений.PaddleClas

SwanLab — это легкий инструмент отслеживания экспериментов с искусственным интеллектом с открытым исходным кодом, который улучшает отслеживание экспериментов ML и возможности совместной работы, предоставляя дружественный API и сочетая отслеживание гиперпараметров, запись индикаторов, онлайн-сотрудничество и другие функции.Добро пожаловать в официальную документацию SwanLab |

Swanhub — это сообщество моделей сотрудничества и обмена с открытым исходным кодом, разработанное Geek Studio. Он предоставляет разработчикам ИИ такие функции, как размещение моделей ИИ, записи обучения, отображение результатов модели и быстрое развертывание API.Добро пожаловать в Сванхаб

Gradio — это библиотека Python с открытым исходным кодом, призванная помочь ученым, исследователям и разработчикам, работающим в области машинного обучения, быстро создавать и делиться пользовательскими интерфейсами для моделей машинного обучения.Градио

2. Подготовительная часть

2.1 Установка среды

Установите следующие 3 библиотеки:

  1. paddle
  2. swanlab
  3. gradio

Команда установки:

pip install paddle swanlab gradio

2.2 Загрузка набора данных

Набор данных классификации сорняков: DeepWeeds

  1. DeepWeeds
  2. --images
  3. ----1.jpg
  4. ----2.jpg
  5. --train.txt
  6. --val.txt
  7. --test.txt
  8. --classnames.txt

Их соответствующие функции и значение:

1. Папка DeepWeeds: эта папка используется для хранения изображений папок с изображениями, файлов наборов проверок набора тестов и файлов меток.

2. Папка изображений: эта папка используется для сохранения папок изображений для обучения, тестирования и проверки.

3. Файлы train.txt, val.txt, test.txt: этот файл используется для сохранения путей к изображениям и категорий наборов обучения, тестирования и проверки.

4. Файл имен классов: используется для сохранения меток категорий.

2.3 Загрузите фреймворк PaddleClas

Ссылка на модель:Модель PaddleClas

После распаковки вы получите папку PaddleClas.

2.4 Создать каталог файлов

Создайте app.py в папке PaddleClas.

Что он делает: запускает скрипт, который запускает Gradio Demo.

3. Обучение модели ResNet

3.1 Изменение конфигурации

Сначала найдите ppcls-->configs-->ImageNet-->Res2Net-->Res2Net50_14w_8s.yaml в папке PaddleClas.

Измените эпохи на 100, категорию class_num на 9, путь к обучающему изображению, путь к проверочному изображению и файл метки соответственно. Всего было внесено 7 изменений.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100###########################1##############################
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 224, 224]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: Res2Net50_14w_8s
  20.   class_num: 9############################2##############################
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: ./weeds/images/#################3#######################
  50.       cls_label_path: ./weeds/train.txt###########4########################
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 224
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: ./DeepWeeds/images/###############5#######################
  81.       cls_label_path: ./DeepWeeds/val.txt###########6########################
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 256
  88.         - CropImage:
  89.             size: 224
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 256
  113.     - CropImage:
  114.         size: 224
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: ./DeepWeeds/classnaems.txt###########7##################
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

3.2 Использование Swanlab

Найдите инструменты ->train.py в папке PaddleClas. Инициализировать лебединую лабораторию

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_ResNet50_PaddleClas",
  39.         description="Train ResNet50 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "ResNet50",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

Найдите ppcls-->engine-->train-->utils.py в PaddleClas и добавьте следующий код:

  1. swanlab.log({"train_lr_msg": lr_msg.split(": ")[1]})  #
  2. swanlab.log({"train_CELoss": metric_msg.split(",")[0].split(': ')[1]})  ##
  3. swanlab.log({'train_loss': metric_msg.split(",")[1].split(': ')[1]})

Найдите ppcls-->engine-->engine.py в папке PaddleClas и добавьте следующий код:

swanlab.log({'best_metric': best_metric.get('metric')})

3.3 Обучение модели

Введите в консоли следующую команду:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml

Просмотр подробностей эксперимента в swanlab

Результаты эксперимента следующие:

Посмотреть результаты экспериментов в swanlab

3.4 Модельное обоснование

Введите в консоль следующий код:

python tools/infer.py -c ./ppcls/configs/ImageNet/Res2Net/Res2Net50_14w_8s.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/Res2Net50_14w_8s/best_model

4. Обучение модели DarkNet53

4.1 Изменение конфигурации

Сначала найдите ppcls-->configs-->ImageNet-->DarkNet-->DarkNet53.yaml в папке PaddleClas.

Измените эпохи на 100, категорию class_num на 9, путь к обучающему изображению, путь к проверочному изображению и файл метки соответственно. Всего было внесено 7 изменений.

  1. # global configs
  2. Global:
  3.   checkpoints: null
  4.   pretrained_model: null
  5.   output_dir: ./output/
  6.   device: gpu
  7.   save_interval: 1
  8.   eval_during_train: True
  9.   eval_interval: 1
  10.   epochs: 100
  11.   print_batch_step: 10
  12.   use_visualdl: False
  13.   # used for static mode and model export
  14.   image_shape: [3, 256, 256]
  15.   save_inference_dir: ./inference
  16.  
  17. # model architecture
  18. Arch:
  19.   name: DarkNet53
  20.   class_num: 9
  21.  
  22. # loss function config for traing/eval process
  23. Loss:
  24.   Train:
  25.     - CELoss:
  26.         weight: 1.0
  27.         epsilon: 0.1
  28.   Eval:
  29.     - CELoss:
  30.         weight: 1.0
  31.  
  32.  
  33. Optimizer:
  34.   name: Momentum
  35.   momentum: 0.9
  36.   lr:
  37.     name: Cosine
  38.     learning_rate: 0.1
  39.   regularizer:
  40.     name: 'L2'
  41.     coeff: 0.0001
  42.  
  43.  
  44. # data loader for train and eval
  45. DataLoader:
  46.   Train:
  47.     dataset:
  48.       name: ImageNetDataset
  49.       image_root: F:/datasets/DeepWeeds/images
  50.       cls_label_path: F:/datasets/DeepWeeds/train.txt
  51.       transform_ops:
  52.         - DecodeImage:
  53.             to_rgb: True
  54.             channel_first: False
  55.         - RandCropImage:
  56.             size: 256
  57.         - RandFlipImage:
  58.             flip_code: 1
  59.         - NormalizeImage:
  60.             scale: 1.0/255.0
  61.             mean: [0.485, 0.456, 0.406]
  62.             std: [0.229, 0.224, 0.225]
  63.             order: ''
  64.       batch_transform_ops:
  65.         - MixupOperator:
  66.             alpha: 0.2
  67.  
  68.     sampler:
  69.       name: DistributedBatchSampler
  70.       batch_size: 64
  71.       drop_last: False
  72.       shuffle: True
  73.     loader:
  74.       num_workers: 4
  75.       use_shared_memory: True
  76.  
  77.   Eval:
  78.     dataset: 
  79.       name: ImageNetDataset
  80.       image_root: F:/datasets/DeepWeeds/images
  81.       cls_label_path: F:/datasets/DeepWeeds/val.txt
  82.       transform_ops:
  83.         - DecodeImage:
  84.             to_rgb: True
  85.             channel_first: False
  86.         - ResizeImage:
  87.             resize_short: 292
  88.         - CropImage:
  89.             size: 256
  90.         - NormalizeImage:
  91.             scale: 1.0/255.0
  92.             mean: [0.485, 0.456, 0.406]
  93.             std: [0.229, 0.224, 0.225]
  94.             order: ''
  95.     sampler:
  96.       name: DistributedBatchSampler
  97.       batch_size: 64
  98.       drop_last: False
  99.       shuffle: False
  100.     loader:
  101.       num_workers: 4
  102.       use_shared_memory: True
  103.  
  104. Infer:
  105.   infer_imgs: docs/images/inference_deployment/whl_demo.jpg
  106.   batch_size: 10
  107.   transforms:
  108.     - DecodeImage:
  109.         to_rgb: True
  110.         channel_first: False
  111.     - ResizeImage:
  112.         resize_short: 292
  113.     - CropImage:
  114.         size: 256
  115.     - NormalizeImage:
  116.         scale: 1.0/255.0
  117.         mean: [0.485, 0.456, 0.406]
  118.         std: [0.229, 0.224, 0.225]
  119.         order: ''
  120.     - ToCHWImage:
  121.   PostProcess:
  122.     name: Topk
  123.     topk: 5
  124.     class_id_map_file: F:/datasets/DeepWeeds/classnames
  125.  
  126. Metric:
  127.   Train:
  128.   Eval:
  129.     - TopkAcc:
  130.         topk: [1, 5]

4.2 Использование Swanlab

Найдите инструменты ->train.py в папке PaddleClas. Изменить инициализацию swanlab

  1. # Copyright (c) 2021 PaddlePaddle Authors. All Rights Reserved.
  2.  #
  3.  # Licensed under the Apache License, Version 2.0 (the "License");
  4.  # you may not use this file except in compliance with the License.
  5.  # You may obtain a copy of the License at
  6.  #
  7.  #     http://www.apache.org/licenses/LICENSE-2.0
  8.  #
  9.  # Unless required by applicable law or agreed to in writing, software
  10.  # distributed under the License is distributed on an "AS IS" BASIS,
  11.  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12.  # See the License for the specific language governing permissions and
  13.  # limitations under the License.
  14.  
  15. from __future__ import absolute_import
  16. from __future__ import division
  17. from __future__ import print_function
  18. import os
  19. import sys
  20.  
  21.  __dir__ = os.path.dirname(os.path.abspath(__file__))
  22.  sys.path.append(os.path.abspath(os.path.join(__dir__, '../')))
  23.  
  24. from ppcls.utils import config
  25. from ppcls.engine.engine import Engine
  26. import swanlab
  27. # -*- coding: utf-8 -*-
  28.  
  29. if __name__ == "__main__":
  30.     args = config.parse_args()
  31.     config = config.get_config(
  32.         args.config, overrides=args.override, show=False)
  33.     config.profiler_options = args.profiler_options
  34.     engine = Engine(config, mode="train")
  35.     
  36.     ## 初始化swanlab
  37.     swanlab.init(
  38.         experiment_name="Swanlab_DrakNet53_PaddleClas",
  39.         description="Train DarkNet53 for weeds classification.",
  40.         project="Swanhub_Weeds_Classification",
  41.         config={
  42.             "model": "DarkNet53",
  43.             "optim": "Adam",
  44.             "lr": 0.001,
  45.             "batch_size": 64,
  46.             "num_epochs": 100,
  47.             "num_class": 9,
  48.         }
  49.     )
  50.     engine.train()

4.3 Обучение модели

Введите в консоли следующую команду:

python -m paddle.distributed.launch tools/train.py -c ./ppcls/configs/ImageNet/DarkNet/DarknetNet53.yaml

Просмотр подробностей эксперимента в swanlab

Результаты эксперимента следующие:

4.4 Модельное обоснование

Введите в консоль следующий код:

python tools/infer.py -c ./ppcls/configs/ImageNet/DarkNet/DarkNet53.yaml -o Infer.infer_imgs=./DeepWeeds/infer/01.jpg -o Global.pretrained_model=./output/DarkNet53/best_model

4.5 Отображение результатов Swanlab

Как видно из рисунка, модель ResNet50 работает лучше, чем модель DarkNet53, а swanlab предоставляет удобную функцию сравнительной диаграммы.

5. Демо-версия градиента

Продолжение следует. . .

6. Swanhub загружает и демонстрирует демо-версию

Продолжение следует. . .

Личный профиль

Он посвятил себя исследованию технологий более 30 лет и владеет различными языками, такими как Java, Linux, Javascript, php, css и т. д. Он внес большой вклад в область открытого исходного кода. Станция документации для разработчиков, где можно поделиться некоторыми проблемами в разработке технологий для дальнейшего использования. Все ознакомьтесь.

моя контактная информация

Почта