기술나눔

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

         

MindSpore Transformers 제품군의 목표는 대규모 모델 교육, 미세 조정, 평가, 추론 및 배포를 위한 전체 프로세스 개발 제품군을 구축하는 것입니다. 이는 업계의 주류 Transformer 유형 사전 교육 모델과 SOTA 다운스트림 작업 애플리케이션을 제공합니다. 풍부한 병렬 기능을 다룹니다. 우리는 사용자가 대규모 모델 훈련과 혁신적인 연구 개발을 쉽게 달성할 수 있도록 돕기를 희망합니다.

MindSpore Transformers 제품군은 MindSpore의 내장 병렬 기술 및 구성 요소 설계를 기반으로 하며 다음과 같은 기능을 갖추고 있습니다.

• 한 줄의 코드로 단일 카드에서 대규모 클러스터 교육으로 원활하게 전환할 수 있습니다.
• 유연하고 사용하기 쉬운 맞춤형 병렬 구성을 제공합니다.
• 토폴로지 인식을 자동으로 수행하고 데이터 병렬성과 모델 병렬성 전략을 효율적으로 통합할 수 있습니다.
• 한 번의 클릭으로 모든 작업에 대한 단일 카드/다중 카드 교육, 미세 조정, 평가 및 추론 프로세스를 시작합니다.
• 사용자가 최적화 프로그램, 학습 전략, 네트워크 어셈블리 등과 같은 구성 요소 형태로 모든 모듈을 구성할 수 있도록 지원합니다.
• Trainer, Pipeline, AutoClass 등 사용하기 쉬운 높은 수준의 인터페이스를 제공합니다.
• 미리 설정된 SOTA 가중치의 자동 다운로드 및 로딩 기능을 제공합니다.
• 인공지능 컴퓨팅 센터의 원활한 마이그레이션 및 배포를 지원합니다.

마인드스포어 대형모델 플랫폼 (mindspore.cn)

Mindformers: MindSpore Transformers 제품군의 목표는 대규모 모델 교육, 추론 및 배포를 위한 전체 프로세스 제품군을 구축하는 것입니다. 풍부한 병렬 기능을 포함하는 업계의 주류 Transformer 유형 사전 교육 모델을 제공합니다. 우리는 사용자가 대규모 모델 훈련을 쉽게 구현할 수 있도록 돕기를 바랍니다. 문서: https://mindformers.readthedocs.io/zh-cn/latest/ (gitee.com)

1. 설치

Linux Ubuntu 환경에서 먼저 git 설치

sudo apt install git

마인드포머 받기

git clone -b r1.1.0 https://gitee.com/mindspore/mindformers.git

스크립트를 실행할 디렉터리를 입력하세요.

cd mindformers

bash build.sh

이 스크립트는 Python setuptools 라이브러리를 설치하고 링크에서 명령을 실행해야 합니다.

'distutils.cmd_no라는 이름의 모듈이 없습니다. 'distutils.cmd_no라는 이름의 모듈이 없습니다.-CSDN博客

sudo apt-get install python3.7-distutils   3.7

Python 버전은 3.7 이상이어야 합니다. 3.9 설치를 권장합니다.

Ubuntu는 Python을 3.7_apt-get으로 업그레이드하고 python3.7-CSDN 블로그를 업데이트합니다.

python3

일반 명령줄 모드로 돌아가려면 "exit()"를 입력하세요.

build.h에서 오류 ERROR: Invalid require: 'mindformers*whl'을 보고할 수 있습니다.

스크립트의 python을 python3으로 변경합니다.

Esc를 누르고 ":wq!"를 입력하여 저장하고 종료하세요.

다시 뛰어

bash build.sh

성공적으로 실행하면 설치가 완료됩니다.

때로는 다른 버전의 Python이 필요합니다. python3은 Python과 다릅니다. 설정도 가능했던 것으로 기억합니다.

whereis python3
rm /usr/bin/python3
ln -s /usr/bin/python3.9 /usr/bin/python3

3.9라면

sudo apt-get install python3.9-distutils   3.9